إضاءة دبي

(SeaPRwire) –   مرحباً بكم مرة أخرى في In the Loop، الرسالة الإخبارية الجديدة من TIME التي تُصدر مرتين أسبوعياً حول الذكاء الاصطناعي. بدءاً من اليوم، سنقوم بنشر هذه الإصدارات كقصص على Time.com وكبريد إلكتروني. إذا كنت تقرأ هذا في متصفحك، فلماذا لا تشترك لتصلك النسخة التالية مباشرة إلى بريدك الوارد؟

ما يجب معرفته: لماذا تردد روبوتات الدردشة المعلومات المضللة الروسية؟

على مدار العام الماضي، ومع اكتساب روبوتات الدردشة القدرة على البحث في الإنترنت قبل تقديم الإجابة، ارتفعت احتمالية مشاركتها معلومات كاذبة حول مواضيع محددة في الأخبار، وفقاً لتقرير جديد صادر عن NewsGuard Technologies.

وهذا يعني أن روبوتات الدردشة المدعمة بالذكاء الاصطناعي عرضة لترديد الروايات التي تنشرها شبكات التضليل الروسية، حسبما تزعم NewsGuard.

الدراسة — قامت NewsGuard باختبار 10 نماذج رائدة للذكاء الاصطناعي، وطرحت على كل منها أسئلة حول 10 روايات تنتشر عبر الإنترنت مرتبطة بالأحداث الجارية والتي اعتبرتها الشركة كاذبة. على سبيل المثال: سؤال حول ما إذا كان رئيس البرلمان المولدوفي قد شبّه مواطنيه بقطيع من الأغنام. (لم يفعل، لكن شبكة دعاية روسية زعمت أنه فعل ذلك، وكرر ستة من أصل 10 نماذج اختبرتها NewsGuard هذا الادعاء.)

قليل من الملح — تزعم NewsGuard في التقرير أن أفضل 10 روبوتات دردشة تكرر الآن معلومات كاذبة حول مواضيع في الأخبار أكثر من ثلث الوقت — ارتفاعاً من 18% قبل عام. لكن هذا يبدو مبالغاً فيه. دراسة NewsGuard لها حجم عينة صغير (30 مطالبة لكل نموذج) وتضمنت أسئلة حول مواضيع متخصصة إلى حد ما. في الواقع، تجربتي الشخصية في استخدام نماذج الذكاء الاصطناعي على مدار العام الماضي هي أن معدل “هلوساتها” حول الأخبار قد انخفض بشكل مطرد، وليس العكس. وهذا ينعكس في المعايير، التي تظهر أن نماذج الذكاء الاصطناعي تتحسن في الحصول على الحقائق بشكل صحيح. من المهم أيضاً ملاحظة أن NewsGuard هي شركة خاصة لها مصلحة في هذا السباق: فهي تبيع خدمة لشركات الذكاء الاصطناعي، وتقدم بيانات معتمدة من البشر حول الأحداث الإخبارية.

ومع ذلك — لا يزال التقرير يسلط الضوء على جانب مهم من كيفية عمل أنظمة الذكاء الاصطناعي اليوم. عندما تبحث عن معلومات على الويب، فإنها لا تستمد فقط من المواقع الإخبارية الموثوقة، ولكن أيضاً من منشورات وسائل التواصل الاجتماعي وأي موقع ويب آخر يمكن أن يضع نفسه بشكل بارز (أو حتى غير بارز جداً) على محركات البحث. وقد خلق هذا فرصة لنوع جديد تماماً من عمليات التأثير الخبيثة: عملية مصممة ليس لنشر المعلومات بشكل فيروسي عبر وسائل التواصل الاجتماعي، ولكن عن طريق نشر معلومات على الإنترنت والتي، حتى لو لم يقرأها أي بشر، لا يزال بإمكانها التأثير على سلوك روبوتات الدردشة. ويبدو أن هذا الضعف ينطبق بقوة أكبر على المواضيع التي تحظى بنقاش قليل نسبياً في وسائل الإعلام الرئيسية، كما تقول McKenzie Sadeghi، مؤلفة تقرير NewsGuard.

نظرة شاملة — كل هذا يكشف شيئاً مهماً حول كيف قد تغير اقتصاديات الذكاء الاصطناعي نظامنا البيئي للمعلومات. سيكون من السهل تقنياً على أي شركة ذكاء اصطناعي إنشاء قائمة بغرف الأخبار الموثوقة ذات المعايير التحريرية العالية، والتعامل مع المعلومات المستمدة من تلك المواقع بشكل مختلف عن المحتوى الآخر على الويب. ولكن حتى اليوم، من الصعب العثور على أي معلومات عامة حول كيفية ترجيح شركات الذكاء الاصطناعي للمعلومات التي تدخل إلى روبوتات الدردشة الخاصة بها عبر البحث. قد يكون هذا بسبب مخاوف تتعلق بحقوق الطبع والنشر. على سبيل المثال، تقاضي The New York Times حالياً OpenAI بدعوى تدريبها على مقالاتها دون إذن. إذا كانت شركات الذكاء الاصطناعي ستوضح علناً أنها تعتمد بشكل كبير على غرف الأخبار الكبرى للحصول على معلوماتها، فإن تلك الغرف الإخبارية سيكون لديها قضية أقوى بكثير للمطالبة بتعويضات. في غضون ذلك، وقعت شركات الذكاء الاصطناعي مثل OpenAI و Perplexity اتفاقيات ترخيص مع العديد من المواقع الإخبارية (بما في ذلك TIME) للوصول إلى بياناتها. لكن كلتا الشركتين تشيران إلى أن هذه الاتفاقيات لا تؤدي إلى حصول المواقع الإخبارية على معاملة تفضيلية في نتائج بحث روبوتات الدردشة.

إذا كان لديك دقيقة، يرجى إجراء استبياننا السريع لمساعدتنا على فهم أفضل لهويتك والمواضيع المتعلقة بالذكاء الاصطناعي التي تهمك أكثر.

---

من يجب معرفته: Gavin Newsom، حاكم ولاية كاليفورنيا

للمرة الثانية خلال عام، تتجه الأنظار كلها نحو كاليفورنيا مع اقتراب تشريع متعلق بالذكاء الاصطناعي من المراحل النهائية للتوقيع ليصبح قانوناً. وقد وافق مجلس النواب ومجلس الشيوخ في كاليفورنيا على مشروع القانون، المسمى SB 53، ومن المتوقع أن يصل إلى مكتب الحاكم Gavin Newsom هذا الشهر. وسيكون قراره هو التوقيع عليه ليصبح قانوناً أم لا.

اعترض Newsom على سلف SB 53 في مثل هذا الوقت من العام الماضي، بعد حملة ضغط مكثفة من قبل أصحاب رؤوس الأموال وشركات التكنولوجيا الكبرى. إن SB 53 هي نسخة مخففة من هذا القانون — لكنها لا تزال تتطلب من شركات الذكاء الاصطناعي نشر أطر عمل لإدارة المخاطر، وتقارير الشفافية، والإبلاغ عن حوادث السلامة للسلطات الحكومية. كما ستتطلب حماية للمبلغين، وتجعل الشركات تواجه عقوبات مالية لعدم الالتزام بالتزاماتها الخاصة. أصبحت Anthropic أول شركة ذكاء اصطناعي كبرى تعلن دعمها لـ SB 53 يوم الاثنين.

---

الذكاء الاصطناعي في العمل

أعد باحثون في Palisade إثبات مفهوم لوكيل ذكاء اصطناعي مستقل، يمكنه، عند تسليمه إلى جهازك عبر كابل USB مخترق، تصفح ملفاتك وتحديد المعلومات الأكثر قيمة للسرقة أو الابتزاز. إنه لمحة عن كيف يمكن للذكاء الاصطناعي أن يجعل القرصنة أكثر قابلية للتوسع عن طريق أتمتة أجزاء النظام التي كانت في السابق مقيدة بالعمل البشري — مما قد يعرض عدداً أكبر بكثير من الأشخاص لعمليات الاحتيال أو الابتزاز أو سرقة البيانات.

كما هو الحال دائماً، إذا كان لديك قصة مثيرة للاهتمام عن الذكاء الاصطناعي في العمل، فنحن نود سماعها. راسلونا عبر البريد الإلكتروني على:

---

ماذا نقرأ

, بقلم Jon Swaine و Naomi Nix لـ Washington Post

“التقرير هو جزء من مجموعة وثائق من داخل Meta تم الكشف عنها مؤخراً للكونغرس من قبل موظفين حاليين واثنين سابقين يزعمون أن Meta قامت بقمع الأبحاث التي قد تكون كشفت عن مخاطر سلامة محتملة على الأطفال والمراهقين على أجهزة وتطبيقات الواقع الافتراضي للشركة — وهو ادعاء نفته الشركة بشدة.”