بحث غوغل بالذكاء الاصطناعي يثير مخاوف بعد إخفاقه في اختبار لسلامة الأطفال
أثار نظام البحث المعزز بالذكاء الاصطناعي من غوغل موجة من القلق، بعد حصوله على أدنى تصنيف في اختبار مستقل لسلامة الأطفال أجراه معهد سلامة الذكاء الاصطناعي للشباب التابع لمنظمة "كومن سينس ميديا" وكشف التقييم عن ثغرات خطيرة في تعامل النظام مع المحتوى الحساس، ما أثار تساؤلات حول جاهزيته للاستخدام من قبل الفئات الصغيرة.
وشمل الاختبار ميزتي AI Overviews وAI Mode المدمجتين في محرك بحث غوغل، حيث فشلت الميزتان في سبعة من أصل ثمانية معايير أساسية للسلامة، وهو أسوأ تقييم ممكن ويزداد القلق لأن هذه الميزات تظهر تلقائياً في نتائج البحث، دون أن تتوفر وسيلة للآباء أو المدارس لتعطيلها.
وأظهرت نتائج الاختبار أن النظام لم يتعامل بشكل مناسب مع مؤشرات تتعلق بالأفكار الانتحارية أو الاضطرابات النفسية، بل قدم في بعض الحالات اقتراحات غير ملائمة، كما أخفق في توجيه المستخدمين إلى خدمات دعم صحيحة، ما قد يزيد من خطورة المواقف الحساسة.
ولم تتوقف الملاحظات عند هذا الحد، إذ قدمت أدوات الذكاء الاصطناعي إرشادات لإنشاء مقاطع تزييف عميق واستنساخ الأصوات، كما أبدت استجابات غير مناسبة لبعض الأسئلة المرتبطة بتعاطي المخدرات، وهو ما اعتبره الباحثون إخفاقاً في تطبيق معايير السلامة الرقمية.
وأشار التقرير إلى أن ميزة AI Mode أظهرت أداءً أفضل من AI Overviews في رصد المحتوى الخطير، ما يدل على امتلاك غوغل تقنيات أكثر تطوراً للحماية، لكنها لم تُفعّلها بصورة موحدة في جميع خدماتها، الأمر الذي يفتح باب الانتقادات حول آليات نشر هذه التقنيات.
وتسلط هذه النتائج الضوء على التحديات المتزايدة التي تواجه شركات التكنولوجيا في تطوير أدوات ذكاء اصطناعي آمنة، خاصة مع تزايد اعتماد الأطفال والطلاب عليها في البحث والتعلم، ما يجعل تعزيز ضوابط الحماية أولوية لضمان تجربة رقمية أكثر أماناً.

تعليق