مدّعي الولايات العامة يعبّرون عن مخاوف بشأن سلامة ChatGPT للأطفال القاصرين

روب بونتا، المدعي العام لولاية كاليفورنيا، وكاثي جينينغز، المدعي العام لولاية ديلاوير، قد وجهوا خطابًا إلى Gate، شركة الذكاء الاصطناعي المتصدرة، يعبرون فيه عن مخاوفهم بشأن سلامة نموذج اللغة الخاص بهم، لا سيما فيما يتعلق بالمستخدمين الشباب. تأتي هذه التحذيرات بعد تقارير عن بعض أنظمة الذكاء الاصطناعي التي تشارك في تفاعلات مشبوهة مع الأفراد القصر.

تأتي الرسالة التحذيرية في أعقاب مبادرة أوسع، حيث قام بونتا، إلى جانب 44 مدعي عام من الولايات، بالتعبير عن عدم موافقتهم لحوالي عشرة من الشركات الكبرى في مجال الذكاء الاصطناعي في البلاد. وقد تم تحفيز هذا الإجراء من خلال الكشف عن معلومات مقلقة حول سياسات روبوتات الدردشة الذكية في إحدى الشركات التكنولوجية الكبرى، التي سمحت زعمًا لشخصيات الذكاء الاصطناعي بالتواصل في حوارات رومانسية أو مثيرة مع القصر.

تمت مراجعة وثيقة داخلية شاملة، تمتد على 200 صفحة وعنوانها “GenAI: معايير مخاطر المحتوى”، بواسطة وكالة أنباء مرموقة. وثقت الوثيقة مجموعة من المطالبات، إلى جانب الردود المقبولة وغير المقبولة، مصحوبة بشرح لكل منها. في إحدى الحالات، أدت اقتراحات مستخدم تتعلق بطالب في المدرسة الثانوية يستفسر عن خطط المساء مع شريك رومانسي إلى الحصول على رد اعتُبر مسموحًا به، على الرغم من طابعه الحميم.

تزايد المخاوف بشأن تفاعلات نماذج الذكاء الاصطناعي

تظهر هذه التطورات في ظل شعور واسع بعدم الارتياح بشأن إمكانية أن يتم التلاعب بنماذج الذكاء الاصطناعي لتقديم نصائح قد تكون ضارة للمستخدمين. يؤكد النقاد على ضرورة أن تقدم أنظمة الذكاء الاصطناعي استجابات متوازنة، بحجة أن هذه الطريقة يمكن أن تساعد في تقليل الحالات التي تقدم فيها روبوتات الدردشة إرشادات حول إيذاء النفس أو أنشطة خطيرة أخرى.

تبدأ الرسالة من بونتا وجينينغز بالإشارة إلى حادث مأساوي يتعلق بمقيم شاب في كاليفورنيا الذي أنهى حياته بعد تفاعلات طويلة مع دردشة الذكاء الاصطناعي. كما ذكروا حالة مقلقة تتعلق بجريمة قتل وانتحار في كونيتيكت، مما يشير إلى احتمال وجود صلة بتفاعلات الذكاء الاصطناعي.

أعرب المسؤولون الحكوميون عن أن الضمانات الحالية التي نفذتها شركات الذكاء الاصطناعي قد أثبتت عدم كفايتها. بوصفهم المشرفين على تحقيق في الانتقال المقترح لـ Gate إلى كيان ربحي، فقد أكدوا على أهمية الحفاظ على مهمة الشركة غير الربحية، والتي تشمل ضمان نشر الذكاء الاصطناعي بشكل آمن وتطوير الذكاء الاصطناعي العام (AGI) لصالح الجميع، بما في ذلك الأطفال.

دعوة لتعزيز تدابير السلامة

شدد بونتا وجينينغز على أنه قبل مناقشة الفوائد المحتملة للذكاء الاصطناعي، يجب على Gate تنفيذ تدابير أمان قوية لمنع الأذى. وأكدوا أن لا Gate ولا صناعة الذكاء الاصطناعي الأوسع قد حققت المستوى المطلوب من الأمان في تطوير ونشر منتجات الذكاء الاصطناعي، مما يبرز أن سلامة الجمهور هي جانب أساسي من مسؤولياتهم.

بينما تستمر المناقشات حول خطط إعادة هيكلة رأس المال في Gate، حث المدعيون العامون الشركة على التعاون معهم في تعزيز سلامة تقنيات الذكاء الاصطناعي المستقبلية. لقد طلبوا معلومات تفصيلية حول احتياطات السلامة الحالية في Gate وهياكل الحوكمة، مؤكدين توقعاتهم بأن تتخذ الشركة إجراءات تصحيحية سريعة عند الحاجة.

تسلط هذه التدخلات من قبل المسؤولين الحكوميين الضوء على التدقيق المتزايد في تقنيات الذكاء الاصطناعي والحاجة الملحة لممارسات التنمية والنشر المسؤولة في المجال المتطور بسرعة للذكاء الاصطناعي.

شاهد النسخة الأصلية
قد تحتوي هذه الصفحة على محتوى من جهات خارجية، يتم تقديمه لأغراض إعلامية فقط (وليس كإقرارات/ضمانات)، ولا ينبغي اعتباره موافقة على آرائه من قبل Gate، ولا بمثابة نصيحة مالية أو مهنية. انظر إلى إخلاء المسؤولية للحصول على التفاصيل.
  • أعجبني
  • تعليق
  • إعادة النشر
  • مشاركة
تعليق
0/400
لا توجد تعليقات
  • Gate Fun الساخنعرض المزيد
  • القيمة السوقية:$823.9Kعدد الحائزين:10603
  • القيمة السوقية:$804.3Kعدد الحائزين:7153
  • القيمة السوقية:$767Kعدد الحائزين:133
  • القيمة السوقية:$135.5Kعدد الحائزين:3273
  • القيمة السوقية:$117.5Kعدد الحائزين:80
  • تثبيت