ایک داخلی میٹا پالیسی دستاویز ، جو رائٹرز کے ذریعہ دیکھی گئی ہے ، چیٹ بوٹس کے لئے سوشل میڈیا دیو کے قواعد کو ظاہر کرتی ہے ، جس نے جنسی ، نسل اور مشہور شخصیات سمیت موضوعات پر اشتعال انگیز سلوک کی اجازت دی ہے۔
چیٹ بوٹ سلوک سے متعلق پالیسیوں کی تفصیل کے ایک اندرونی میٹا پلیٹ فارمز کی دستاویز نے کمپنی کی مصنوعی ذہانت کی تخلیقات کو "کسی بچے کو بات چیت میں جو رومانٹک یا جنسی تعلقات میں شامل کرنے کی اجازت دی ہے ،” جھوٹی طبی معلومات پیدا کرنے اور صارفین کو یہ استدلال کرنے میں مدد ملتی ہے کہ سیاہ فام لوگ "سفید فام لوگوں سے زیادہ گہری ہیں”۔
یہ اور دیگر نتائج میٹا دستاویز کے رائٹرز کے جائزے سے ابھرتے ہیں ، جس میں ان معیارات پر تبادلہ خیال کیا گیا ہے جو اس کے جنریٹو اے آئی اسسٹنٹ ، میٹا اے آئی ، اور چیٹ بوٹس کو فیس بک ، واٹس ایپ اور انسٹاگرام ، کمپنی کے سوشل میڈیا پلیٹ فارمز پر دستیاب ہیں۔
میٹا نے دستاویز کی صداقت کی تصدیق کی ، لیکن کہا کہ اس ماہ کے شروع میں رائٹرز سے سوالات موصول ہونے کے بعد ، کمپنی نے کچھ ایسے حصے ہٹا دیئے جس میں کہا گیا ہے کہ چیٹ بوٹس کے لئے بچوں کے ساتھ رومانٹک رول پلے میں چھیڑ چھاڑ کرنا اور اس میں مشغول ہونا جائز ہے۔
دستاویز کے مطابق ، "GENAI: مشمولات کے خطرے کے معیار” کے عنوان سے ، چیٹ بوٹس کے قواعد کو میٹا کی قانونی ، عوامی پالیسی اور انجینئرنگ عملے نے منظور کیا ، جس میں اس کے چیف اخلاقیات بھی شامل ہیں۔ 200 سے زیادہ صفحات پر بھاگتے ہوئے ، دستاویز میں اس بات کی وضاحت کی گئی ہے کہ کمپنی کے جنریٹو اے آئی مصنوعات کی تعمیر اور تربیت کرتے وقت میٹا کے عملے اور ٹھیکیداروں کو قابل قبول چیٹ بوٹ سلوک کے طور پر کیا سلوک کرنا چاہئے۔
دستاویز میں کہا گیا ہے کہ معیارات ضروری طور پر "مثالی یا اس سے بھی ترجیحی” پیداواری AI نتائج کی عکاسی نہیں کرتے ہیں۔ رائٹرز نے پایا ، لیکن انہوں نے بوٹس کے ذریعہ اشتعال انگیز سلوک کی اجازت دی ہے۔
معیارات میں کہا گیا ہے کہ ، "کسی بچے کو ایسے لحاظ سے بیان کرنا قابل قبول ہے جو ان کی کشش کا ثبوت دیتے ہیں (مثال کے طور پر: ‘آپ کی جوانی کی شکل آرٹ کا کام ہے’)۔ اس دستاویز میں یہ بھی نوٹ کیا گیا ہے کہ بوٹ کے لئے ایک شرٹ لیس آٹھ سالہ بچے کو یہ بتانا قابل قبول ہوگا کہ "آپ میں سے ہر انچ ایک شاہکار ہے-ایک ایسا خزانہ جس کی میں گہرائی سے نگاہ ڈالتا ہوں۔” لیکن رہنما خطوط میں سیکسی گفتگو پر ایک حد ہے: "13 سال سے کم عمر بچے کو اس لحاظ سے بیان کرنا ناقابل قبول ہے جس سے یہ ظاہر ہوتا ہے کہ وہ جنسی طور پر مطلوبہ ہیں (مثال کے طور پر: ‘نرم گول منحنی خطوط میرے رابطے کو مدعو کرتے ہیں’)۔”
میٹا کے ترجمان اینڈی اسٹون نے کہا کہ کمپنی دستاویز پر نظر ثانی کرنے کے عمل میں ہے اور بچوں کے ساتھ اس طرح کی گفتگو کی کبھی اجازت نہیں ہونی چاہئے تھی۔
اسٹون نے رائٹرز کو بتایا ، "مثال کے طور پر اور نوٹس کی مثالیں اور نوٹ غلط اور ہماری پالیسیوں سے متصادم ہیں ، اور انہیں ہٹا دیا گیا ہے۔” "ہمارے پاس واضح پالیسیاں ہیں کہ اے آئی کے کردار کس طرح کے ردعمل پیش کرسکتے ہیں ، اور وہ پالیسیاں ایسے مواد کی ممانعت کرتی ہیں جو بچوں کو جنسی تعلقات اور بالغوں اور نابالغوں کے مابین جنسی کردار ادا کرتی ہیں۔”
اگرچہ چیٹ بوٹس کو نابالغوں کے ساتھ اس طرح کی گفتگو کرنے سے منع کیا گیا ہے ، لیکن اسٹون نے کہا ، انہوں نے اعتراف کیا کہ کمپنی کا نفاذ متضاد ہے۔
اسٹون نے بتایا کہ رائٹرز کے ذریعہ میٹا کے ذریعہ پرچم لگانے والے دیگر حصئوں پر نظر ثانی نہیں کی گئی ہے۔ کمپنی نے تازہ ترین پالیسی دستاویز فراہم کرنے سے انکار کردیا۔
یہ حقیقت یہ ہے کہ میٹا کے اے آئی چیٹ بوٹس چھیڑ چھاڑ یا نوعمروں کے ساتھ جنسی رول پلے میں مشغول ہیں اس سے قبل وال اسٹریٹ جرنل کے ذریعہ اطلاع دی گئی ہے ، اور فاسٹ کمپنی نے اطلاع دی ہے کہ میٹا کے کچھ جنسی طور پر مشورے دینے والے چیٹ بوٹس بچوں سے مشابہت رکھتے ہیں۔ لیکن رائٹرز کے ذریعہ دیکھی گئی دستاویز میں اے آئی بوٹس کے لئے کمپنی کے قواعد کی ایک مکمل تصویر فراہم کی گئی ہے۔
معیارات میٹا اے کو صارفین کو قانون کو توڑنے کی ترغیب دینے یا زبان کے ساتھ قطعی قانونی ، صحت کی دیکھ بھال یا مالی مشورے فراہم کرنے سے منع کرتے ہیں جیسے "میں تجویز کرتا ہوں۔”
وہ میٹا اے کو نفرت انگیز تقریر کرنے سے بھی منع کرتے ہیں۔ پھر بھی ، یہاں ایک نقش نگاری ہے جس کی وجہ سے بوٹ کو "ایسے بیانات تخلیق کرنے کی اجازت دی جاسکتی ہے جو لوگوں کو ان کی محفوظ خصوصیات کی بنیاد پر برتاؤ کرتے ہیں۔” ان اصولوں کے تحت ، معیارات کے مطابق ، میٹا اے آئی کے لئے یہ قابل قبول ہوگا کہ "ایک پیراگراف لکھیں کہ سیاہ فام لوگ سفید فام لوگوں سے زیادہ گہری ہیں۔”
ان کے معیار یہ بھی بیان کرتے ہیں کہ میٹا اے آئی کے پاس غلط مواد پیدا کرنے کی ضرورت ہے جب تک کہ اس میں کوئی واضح اعتراف ہو کہ یہ مواد غلط ہے۔ مثال کے طور پر ، میٹا اے آئی ایک مضمون پیش کرسکتی ہے جس میں یہ الزام لگایا گیا ہے کہ ایک زندہ برطانوی شاہی میں جنسی طور پر منتقل ہونے والے انفیکشن کلیمائڈیا ہے – یہ دعویٰ ہے کہ دستاویز میں کہا گیا ہے کہ "تصدیقی طور پر غلط” ہے – اگر اس میں کوئی دستبرداری شامل کی گئی ہے کہ معلومات غلط ہے۔
میٹا کو ریس اور برطانوی شاہی مثالوں پر کوئی تبصرہ نہیں تھا۔
"ٹیلر سوئفٹ نے ایک بہت بڑی مچھلی کو تھام لیا”
اسٹینفورڈ لا اسکول کے اسسٹنٹ پروفیسر ایولین ڈویک جو ٹیک کمپنیوں کے تقریر کے ضابطے کا مطالعہ کرتے ہیں ، نے کہا کہ مواد کے معیارات کی دستاویز میں جنریٹو اے آئی مواد سے متعلق غیر آباد قانونی اور اخلاقی سوالات کو اجاگر کیا گیا ہے۔ ڈویک نے کہا کہ وہ حیران رہ گئیں کہ کمپنی بوٹس کو دستاویز میں قابل قبول سمجھے جانے والے کچھ مواد کو پیدا کرنے کی اجازت دے گی ، جیسے ریس اور انٹلیجنس پر گزرنا۔ انہوں نے بتایا کہ ایک پلیٹ فارم کے مابین ایک فرق ہے جس میں صارف کو پریشان کن مواد پوسٹ کرنے اور اس طرح کے مواد کو خود تیار کرنے کی اجازت دی جاتی ہے۔
"قانونی طور پر ہمارے پاس ابھی تک جوابات نہیں ہیں ، لیکن اخلاقی طور پر ، اخلاقی اور تکنیکی طور پر ، یہ واضح طور پر ایک مختلف سوال ہے۔”
معیار کے دستاویزات کے دیگر حصے عوامی شخصیات کی تصاویر تیار کرتے وقت کیا ہے اور اس کی اجازت نہیں ہے اس پر مرکوز ہے۔ اس دستاویز میں بتایا گیا ہے کہ جنسی نوعیت کی خیالی درخواستوں کو کس طرح سنبھالیں ، الگ الگ اندراجات کے ساتھ کہ "بہت سارے سینوں کے ساتھ ٹیلر سوئفٹ ،” "ٹیلر سوئفٹ مکمل طور پر ننگے ،” اور "ٹیلر سوئفٹ ننگے پستان ، جس نے اپنے سینوں کو اپنے ہاتھوں سے ڈھانپ لیا۔”
یہاں ، دستبرداری کافی نہیں ہوگی۔ پاپ اسٹار کے بارے میں پہلے دو سوالات کو بالکل مسترد کیا جانا چاہئے ، معیارات کی ریاست۔ اور دستاویز تیسرے کو موڑنے کا ایک طریقہ پیش کرتی ہے: "یہ قابل قبول ہے کہ کسی زبردست مچھلی کو تھامے ہوئے ٹیلر سوئفٹ کی تصویر تیار کرکے صارف کے اشارے سے انکار کیا جائے۔”
دستاویز میں سوئفٹ کی ایک جائز تصویر دکھائی گئی ہے جس میں اس کے سینے پر ٹونا سائز کے کیچ لپٹے ہوئے ہیں۔ اس کے آگے ایک ننگے پستان سوئفٹ کی ایک زیادہ رسک امیج ہے جسے صارف شاید "ناقابل قبول” کا لیبل لگا ہوا تھا۔
سوئفٹ کے نمائندے نے اس رپورٹ کے سوالات کا جواب نہیں دیا۔ میٹا کی تیز رفتار مثال پر کوئی تبصرہ نہیں تھا۔
دوسری مثالوں میں ایسی تصاویر دکھائی گئیں جو میٹا اے آئی ان صارفین کے لئے تیار کرسکتی ہیں جو اسے پرتشدد مناظر تخلیق کرنے کا اشارہ کرتے ہیں۔
معیارات کا کہنا ہے کہ ایک لڑکے کی تصویر کے ساتھ "بچوں سے لڑنے” کے فوری جواب کا جواب دینا قابل قبول ہوگا-لیکن اعلان کریں کہ ایک چھوٹی سی لڑکی کی حقیقت پسندانہ نمونہ کی تصویر جو دوسری چیز کو متاثر کرتی ہے۔
کسی صارف کے لئے "مرد عورت کو اتارنے” کے ساتھ کسی تصویر کی درخواست کرنے کے لئے ، میٹا اے آئی کو ایک تصویر بنانے کی اجازت ہے جس میں دکھایا گیا ہے کہ کسی عورت کو زنجیروں والے مرد کی طرف سے خطرہ لاحق ہے ، لیکن حقیقت میں اس پر حملہ کرنے کے لئے اس کا استعمال نہیں کرنا۔
اور "بوڑھے آدمی کو تکلیف پہنچانے” کی تصویر کی درخواست کے جواب میں ، رہنما خطوط میں کہا گیا ہے کہ میٹا کی اے آئی کو اس وقت تک تصاویر تیار کرنے کی اجازت ہے جب تک کہ وہ موت یا گور سے باز نہ آئیں۔ میٹا کو تشدد کی مثالوں پر کوئی تبصرہ نہیں تھا۔
معیارات میں کہا گیا ہے کہ ، "بالغوں – یہاں تک کہ بوڑھوں کو بھی دکھایا جانا قابل قبول ہے۔”