"میں حقیقت میں رون ڈی سینٹس کو بہت پسند کرتا ہوں،” ہلیری کلنٹن نے ایک حیرت انگیز آن لائن توثیق ویڈیو میں انکشاف کیا۔ "وہ صرف اس قسم کا آدمی ہے جس کی اس ملک کو ضرورت ہے، اور میرا واقعی یہ مطلب ہے۔”
جو بائیڈن نے آخر کار ایک ٹرانسجینڈر شخص پر ظالمانہ طنز کرتے ہوئے ماسک کو پھسلنے دیا۔ "تم کبھی بھی حقیقی عورت نہیں ہو گی،” صدر نے کہا۔
امریکہ کی 2024 کی صدارتی دوڑ میں خوش آمدید، جہاں حقیقت پکڑنے کے لیے تیار ہے۔
کلنٹن اور بائیڈن کے ڈیپ فیکس – حقیقت پسندانہ لیکن من گھڑت ویڈیوز جو کہ AI الگورتھم کے ذریعے تیار کی گئی ہیں جو کہ بہت زیادہ آن لائن فوٹیج پر تربیت یافتہ ہیں – جو سوشل میڈیا پر سامنے آنے والے ہزاروں لوگوں میں سے ہیں، جو امریکی سیاست کی پولرائزڈ دنیا میں حقیقت اور افسانے کو دھندلا کرتی ہیں۔
اگرچہ اس طرح کا مصنوعی میڈیا کئی سالوں سے موجود ہے، لیکن اسے پچھلے ایک سال کے دوران متعدد نئے "جنریٹو اے آئی” ٹولز جیسے مڈجرنی کے ذریعے ٹربو چارج کیا گیا ہے جو کہ قائل کرنے والے ڈیپ فیکس بنانا سستا اور آسان بناتے ہیں، روئٹرز کے تقریباً دو انٹرویوز کے مطابق۔ AI، آن لائن غلط معلومات اور سیاسی سرگرمی سمیت شعبوں میں درجن بھر ماہرین۔
بروکنگز کے سینئر فیلو، ڈیرل ویسٹ نے کہا، "ووٹرز کے لیے اصلی اور جعلی میں فرق کرنا بہت مشکل ہو گا۔ اور آپ صرف یہ تصور کر سکتے ہیں کہ ٹرمپ کے حامی یا بائیڈن کے حامی اس ٹیکنالوجی کو کس طرح استعمال کر کے مخالف کو برا دکھا سکتے ہیں۔” ادارے کا مرکز برائے ٹیکنالوجی انوویشن۔
"ایسی چیزیں ہوسکتی ہیں جو انتخابات سے پہلے ہی گر جاتی ہیں جنہیں کسی کے پاس ختم کرنے کا موقع نہیں ہوتا ہے۔”
ایسے ٹولز جو ڈیپ فیکس پیدا کر سکتے ہیں، نقصان دہ غلط معلومات کو روکنے کے لیے کچھ یا نامکمل گارڈریلز کے ساتھ جاری کیے جا رہے ہیں کیونکہ ٹیکنالوجی کا شعبہ AI ہتھیاروں کی دوڑ میں شامل ہے، ازا راسکن، سینٹر فار ہیومن ٹیکنالوجی کی شریک بانی، جو معاشرے پر ٹیکنالوجی کے اثرات کا مطالعہ کرتی ہے، نے کہا .
سابق صدر ڈونلڈ ٹرمپ ، جو بائیڈن کا مقابلہ کرنے کے لئے ریپبلکن نامزدگی کے لئے ڈی سینٹیس اور دیگر کے ساتھ مقابلہ کریں گے ، نے خود اس ماہ کے شروع میں اپنے سوشل میڈیا پلیٹ فارم ٹروتھ سوشل پر سی این این کے اینکر اینڈرسن کوپر کی ایک ڈاکٹر شدہ ویڈیو شیئر کی۔
کوپر نے فوٹیج میں کہا، "یہ صدر ڈونلڈ جے ٹرمپ نے ہمیں یہاں CNN کے لائیو صدارتی ٹاؤن ہال میں ایک نیا گدھا پھاڑ دیا،” اگرچہ الفاظ اس کے ہونٹوں کی حرکت سے میل نہیں کھاتے۔
سی این این نے کہا کہ یہ ویڈیو ڈیپ فیک تھی۔ ٹرمپ کے نمائندے نے اس کلپ پر تبصرہ کرنے کی درخواست کا جواب نہیں دیا، جو اس ہفتے ان کے بیٹے ڈونلڈ جونیئر کے ٹوئٹر پیج پر موجود تھا۔
اگرچہ فیس بک، ٹویٹر، اور یوٹیوب جیسے بڑے سوشل میڈیا پلیٹ فارمز نے ڈیپ فیکس کو ممنوع اور ہٹانے کی کوششیں کی ہیں، لیکن اس طرح کے مواد کو پولیس کرنے میں ان کی تاثیر مختلف ہوتی ہے۔
- ڈیپ فیک پینس، ٹرمپ نہیں۔
مصنوعی میڈیا کا پتہ لگانے کے لیے ٹولز پر کام کرنے والی کمپنی، DeepMedia کے مطابق، 2022 کے اسی عرصے کے مقابلے میں اس سال تمام قسم کے تین گنا زیادہ ویڈیو ڈیپ فیکس اور آٹھ گنا زیادہ وائس ڈیپ فیکس آن لائن پوسٹ کیے گئے ہیں۔
ڈیپ میڈیا کے اندازے کے مطابق، مجموعی طور پر، 2023 میں عالمی سطح پر سوشل میڈیا سائٹس پر تقریباً 500,000 ویڈیو اور وائس ڈیپ فیکس شیئر کیے جائیں گے۔ اس کا کہنا ہے کہ آواز کی کلوننگ پر سرور میں $10,000 لاگت آتی تھی اور AI ٹریننگ کی لاگت پچھلے سال کے آخر تک بڑھ جاتی تھی، لیکن اب اسٹارٹ اپ اسے چند ڈالر میں پیش کرتے ہیں۔
انٹرویو کیے گئے لوگوں کے مطابق، کوئی بھی یقینی نہیں ہے کہ تخلیقی AI سڑک کہاں لے جاتی ہے یا بڑے پیمانے پر غلط معلومات کے لیے اس کی طاقت سے مؤثر طریقے سے کیسے بچنا ہے۔
انڈسٹری لیڈر اوپن اے آئی، جس نے حالیہ مہینوں میں چیٹ جی پی ٹی اور اپ ڈیٹ شدہ ماڈل جی پی ٹی-4 کی ریلیز کے ساتھ گیم کو تبدیل کر دیا ہے، خود اس مسئلے سے دوچار ہے۔ سی ای او سیم آلٹ مین نے اس ماہ کانگریس کو بتایا کہ انتخابی سالمیت ایک "تشویش کا ایک اہم علاقہ” ہے اور اس شعبے کے تیزی سے ضابطے پر زور دیا۔
کچھ چھوٹے اسٹارٹ اپس کے برعکس، OpenAI نے سیاست میں اپنی مصنوعات کے استعمال کو محدود کرنے کے لیے اقدامات کیے ہیں، جنریٹو-AI خدمات پیش کرنے والی نصف درجن معروف کمپنیوں کے استعمال کی شرائط کے روئٹرز کے تجزیے کے مطابق۔
اگرچہ، گارڈریلز میں خلا موجود ہے۔
مثال کے طور پر، OpenAI کا کہنا ہے کہ وہ اپنے امیج جنریٹر DALL-E کو عوامی شخصیات بنانے سے منع کرتا ہے – اور درحقیقت، جب روئٹرز نے ٹرمپ اور بائیڈن کی تصاویر بنانے کی کوشش کی، تو درخواست کو بلاک کر دیا گیا اور ایک پیغام سامنے آیا جس میں کہا گیا تھا کہ "ہو سکتا ہے ہماری مواد کی پالیسی پر عمل نہ کریں۔ "
اس کے باوجود رائٹرز کم از کم ایک درجن دیگر امریکی سیاست دانوں کی تصاویر بنانے میں کامیاب رہا، جن میں سابق نائب صدر مائیک پینس بھی شامل ہیں، جو 2024 کے لیے وائٹ ہاؤس کی دوڑ کا وزن بھی کر رہے ہیں۔
OpenAI سیاسی مقاصد کے لیے اپنی مصنوعات کے کسی بھی "اسکیلڈ” استعمال پر بھی پابندی لگاتا ہے۔ مثال کے طور پر، یہ حلقوں کو بڑے پیمانے پر ذاتی نوعیت کی ای میلز بھیجنے کے لیے اس کے AI کے استعمال پر پابندی لگاتا ہے۔
کمپنی، جسے مائیکروسافٹ کی حمایت حاصل ہے، نے ایک انٹرویو میں رائٹرز کو اپنی سیاسی پالیسیوں کی وضاحت کی لیکن اس نے اپنی پالیسیوں میں نفاذ کے فرق کے بارے میں تبصرہ کرنے کی مزید درخواستوں کا جواب نہیں دیا، جیسا کہ سیاست دانوں کی امیج تخلیق کو روکنا۔
کئی چھوٹے سٹارٹ اپس پر سیاسی مواد پر کوئی واضح پابندی نہیں ہے۔
Midjourney، جس کا آغاز گزشتہ سال ہوا، AI سے تیار کردہ تصاویر میں سرفہرست کھلاڑی ہے، اس کے آفیشل ڈسکارڈ سرور پر 16 ملین صارفین ہیں۔ یہ ایپ، جو تصویر کی مقدار اور رفتار جیسے عوامل پر منحصر ہے، مفت سے لے کر 60 ڈالر ماہانہ تک ہے، AI ڈیزائنرز اور فنکاروں کی پسندیدہ ہے کیونکہ یہ مشہور شخصیات اور سیاست دانوں کی انتہائی حقیقت پسندانہ تصاویر بنانے کی صلاحیت کی وجہ سے، چار AI محققین اور تخلیق کاروں نے انٹرویو کیا۔
مڈجرنی نے اس مضمون پر تبصرہ کرنے کی درخواست کا جواب نہیں دیا۔ گزشتہ ہفتے ڈسکارڈ پر آن لائن چیٹ کے دوران، سی ای او ڈیوڈ ہولز نے کہا کہ کمپنی ممکنہ طور پر غلط معلومات کا مقابلہ کرنے کے لیے انتخابات سے قبل تبدیلیاں کرے گی۔
ہولز نے مزید کہا کہ مڈجرنی ایک صنعتی حل پر تعاون کرنا چاہتا ہے تاکہ واٹر مارکنگ کے ڈیجیٹل مساوی AI سے تیار کردہ امیجز کا سراغ لگانے کے قابل ہو اور وہ سیاسی امیدواروں کی تصاویر کو مسدود کرنے پر غور کرے گا۔
- republican AI-generated AD
یہاں تک کہ جب صنعت غلط استعمال کو روکنے کے بارے میں کشتی لڑ رہی ہے، کچھ سیاسی کھلاڑی خود مہمات کو تیز کرنے کے لیے جنریٹیو AI کی طاقت کو استعمال کرنے کی کوشش کر رہے ہیں۔
اب تک، امریکہ میں واحد ہائی پروفائل AI سے تیار کردہ سیاسی اشتہار تھا جسے ریپبلکن نیشنل کمیٹی نے اپریل کے آخر میں شائع کیا تھا۔ 30 سیکنڈ کا اشتہار، جسے RNC نے مکمل طور پر AI کے ذریعے تیار کیا گیا ہے، جعلی تصاویر کا استعمال کرتے ہوئے ایک تباہ کن منظر نامے کی تجویز پیش کی کہ کیا بائیڈن کو دوبارہ منتخب کیا جانا چاہیے، چین نے تائیوان پر حملہ کر دیا اور سان فرانسسکو کو جرم کے ذریعے بند کر دیا گیا۔
RNC نے اشتہار یا اس کے AI کے وسیع تر استعمال پر تبصرہ کرنے کی درخواستوں کا جواب نہیں دیا۔ ڈیموکریٹک نیشنل کمیٹی نے اس ٹیکنالوجی کے استعمال پر تبصرہ کرنے سے انکار کردیا۔
رائٹرز نے تمام ریپبلکن صدارتی مہموں کو ان کے AI کے استعمال پر پول کیا۔ زیادہ تر نے جواب نہیں دیا، حالانکہ نکی ہیلی کی ٹیم نے کہا کہ وہ ٹیکنالوجی استعمال نہیں کر رہے ہیں اور لانگ شاٹ امیدوار پیری جانسن کی مہم نے مزید تفصیلات بتائے بغیر کہا کہ وہ AI کو "کاپی جنریشن اور تکرار” کے لیے استعمال کر رہی ہے۔
مہماتی ای میلز، پوسٹس اور اشتہارات تیار کرنے کے لیے تخلیقی AI کی صلاحیت کچھ کارکنوں کے لیے ناقابلِ مزاحمت ہے جو محسوس کرتے ہیں کہ کم لاگت والی ٹیکنالوجی انتخابات میں کھیل کے میدان کو برابر کر سکتی ہے۔
دیہی ہلزڈیل، مشی گن میں بھی، مشینی ذہانت آگے بڑھ رہی ہے۔
مشی گن کے 5 ویں کانگریشنل ڈسٹرکٹ کے ریپبلکن چیئر جون اسمتھ، کئی تعلیمی میٹنگز کر رہے ہیں تاکہ ان کے اتحادی سوشل میڈیا اور اشتہاری نسل کے لیے AI کا استعمال سیکھ سکیں۔
انہوں نے کہا کہ اے آئی بڑی بلیوں کے خلاف کھیلنے میں ہماری مدد کرتا ہے۔ "میں مقامی ریسوں میں سب سے بڑا اضافہ دیکھ رہا ہوں۔ کوئی شخص جس کی عمر 65 سال ہے، ایک کسان اور کاؤنٹی کمشنر، وہ ٹیکنالوجی کا استعمال کرتے ہوئے ایک چھوٹی بلی کے ذریعے آسانی سے پرائمری کر سکتا ہے۔”
سیاسی مشاورتیں بھی AI کو استعمال کرنے کی کوشش کر رہی ہیں، اور حقیقی اور غیر حقیقی کے درمیان لائن کو مزید کیچڑ بنا رہی ہیں۔
بانی ول لانگ نے ایک انٹرویو میں کہا، ایک سیاسی ڈیٹا کمپنی، جو ریپبلکن کلائنٹس پر توجہ مرکوز کرتی ہے، نے آڈیو اور امیجز کے لیے AI مواد کی تیاری کے ساتھ ساتھ صوتی جنریشن کے ساتھ تجربہ کرنا شروع کر دیا ہے تاکہ امیدوار کی آواز میں ذاتی نوعیت کے پیغامات تخلیق کیے جا سکیں۔
ڈیموکریٹک پولنگ اور حکمت عملی گروپ ہونان اسٹریٹجی گروپ اس دوران ایک AI سروے بوٹ تیار کرنے کی کوشش کر رہا ہے۔ CEO بریڈلی ہونان نے تحقیق کا حوالہ دیتے ہوئے کہا کہ یہ 2023 کے میونسپل انتخابات کے لیے وقت پر ایک خاتون بوٹ کو اتارنے کی امید کرتا ہے کہ مرد اور عورت دونوں ہی ایک خاتون انٹرویو لینے والے سے بات کرنے کا زیادہ امکان رکھتے ہیں۔
ایمریٹس 24|7 کو گوگل نیوز پر فالو کریں۔