جيما هو نموذج ذكاء اصطناعي مفتوح المصدر أطلقته شركة جوجل. النموذج متاح لجميع المطورين من خلال Google AI Studio والقنوات الأخرى. ومع ذلك، قد يكون من الصعب على المطورين العثور على Gemma من Google AI Studio لأن النموذج قد تم سحبه بواسطة Google.
ولم توضح جوجل سبب قيامها بإزالة نموذج الذكاء الاصطناعي مفتوح المصدر، لكن قبل أن تزيل جوجل النموذج، أرسلت السيناتور الجمهوري الأمريكي مارشا بلاكبيرن رسالة إلى الرئيس التنفيذي لشركة جوجل، ساندر بيتشاي، تطلب فيها من جوجل توضيح سبب احتواء النموذج على اتهامات باطلة عنها.
طلبت بلاكبيرن أيضًا من جوجل توضيح سبب تعرض عارضاتها لمثل هذه الأخطاء، في حين ربطت المشكلة بجلسات الاستماع المستمرة التي تتهم جوجل وشركات أخرى بإنشاء روبوتات دردشة تشوه سمعة المحافظين.
وفي جلسة الاستماع، أوضح مالكولم إريكسون من جوجل أن هلوسة الذكاء الاصطناعي مشكلة شائعة في الذكاء الاصطناعي التوليدي، وتبذل جوجل قصارى جهدها للتخفيف من تأثير مثل هذه الأخطاء، لكن لم تتمكن أي شركة حتى الآن من القضاء على الهلوسة بشكل كامل.
وفي رسالة مفتوحة، ذكرت مارشا بلاكبيرن أنها لم تعلم بالاتهامات الباطلة الموجهة إليها من قبل عارضة أزياء جوجل جيما إلا بعد جلسة الاستماع. عندما سُئلت عما إذا كانت مارشا بلاكبيرن قد اتُهمت بالاغتصاب، أجابت عارضة أزياء جيما بأنها كانت على علاقة غرامية مع أحد جنود الدولة بسبب المخدرات، وحتى العارضة قامت بإنشاء روابط زائفة لمحتوى إخباري ملفق (أي أن مصدر المحتوى المشار إليه نفسه لم يكن موجودًا وكان ملفقًا تمامًا بواسطة العارضة نفسها).
في الواقع، هذا الوضع ليس نادرًا في نماذج الذكاء الاصطناعي التوليدي. وطالما أن المستخدم يوجهها عمدًا، فإن نماذج الذكاء الاصطناعي التوليدي تكون عرضة لمثل هذه الهلوسة. على وجه الخصوص، يتضمن Google AI Studio أدوات يمكنها ضبط سلوك النموذج، لذلك ليس من السهل نشر الشائعات.