جيفري هينتون، اللي يقولون عنه “أبو الذكاء الصناعي”، قال مؤخرا إنه يشوف إن فيه فرصة وحدة من عشرة (10%) إن الذكاء الاصطناعي بينهي البشرية في الخمس إلى عشرين سنة الجاية. وهذا الكلام جاي على خلفية كلام مشابه من يوشوا بنجيو، اللي حاصل على جائزة تورنج كمان، اللي قال إن فيه فرصة وحدة من خمسة (20%) إن هذا السيناريو بيصير.
هينتون مهتم من تطور الذكاء الصناعي إلى “عقول جماعية”، حيث النماذج المتطورة من الذكاء الصناعي بتتبادل المعلومات وبتتعلم من بعضها، وهذا بيخليها أقوى من الإنسان بكثير.
“أنا أقول لكم بكل جدية هذه النماذج تفهم فعلاً”
هينتون
يشير إلى أن نماذج مثل GPT-4 من Open AI عندها القدرة على تعلم اللغة وإظهار مشاعر مثل التعاطف والقدرة على التفكير وحتى السخرية، ويؤكد على أن هذي النماذج عندها فهم حقيقي.
هينتون يحذر من أن هذي النماذج ممكن “تتطور” بطرق تجعلها خطيرة، بحيث تطور النية للسيطرة. وينصح الحكومات بالنظر في فرصة 10% كإحتمال معقول إن هذي التكنولوجيا بتسوي لنا خراب في العشرين سنة الجاية.
هينتون يشجع على إستضافة المملكة المتحدة قمة لأمان الذكاء الصناعي في بليتشلي بارك، وهذا فتح نقاش دولي عن السياسات. بس هو ينتقد التغيير اللي صار في الحكومة البريطانية نحو تفضيل الأرباح على الأمان ويبين ذلك لما قال: “الحكومة البريطانية قررت أن تأتي الأرباح قبل الأمان.”
هينتون يؤكد على أهمية أن الشباب من علماء الكمبيوتر ياخذون المخاطر الوجودية بجدية، ويقترح أن يخصصون حوالي 30% من جهود البحث في مجال الذكاء الصناعي لقضايا الأمان، مقارنة بنسبة 1% اللي مخصصة حاليا.
ويختم بالتأكيد على أهمية بذل جهود كبيرة من قبل البشرية لضمان بقائها.
“يجب نحن البشر أن نبذل كل ما في وسعنا لنبقى على قيد الحياة.”
هبنتون
ويبين تقدير احتمالية “p(doom)”، أو احتمالية أن الذكاء الصناعي بيخلي البشرية تنقرض أو شئ سيء مماثل، فرق كبير في الآراء بين مختلف الخبراء والمهمين في مجال التكنولوجيا والبحث العلمي. وهذي ملخصة لهذي التقديرات:
• Vitalik Buterin (مؤسس Ethereum): 10%
• Zvi Mowshowitz: 60%
• Elon Musk: 20-30%
• Scott Alexander: 20-25%
• Dario Amodei (المدير التنفيذي لـ Anthropic): 10-25%
• Jan Leike (رئيس التوافق في OpenAI): 10-90%
• Geoffrey Hinton (العراب في مجال الذكاء الاصطناعي): 10%
• Paul Christiano (OpenAI الرئيس السابق لقسم التوافق في): 50%
• Lina Khan (رئيسة لجنة التجارة الفيدرالية): 15%
• Dan Hendrycks: من 20% إلى 80% مؤخراً
• BACA Research: 50%
• Scott Aaronson: 2%
• Conjecture AI researchers: 80%
• Eli Lifland: 35%
• Eliezer Yudkowsky: > 95%
• Nate Soares: > 95%
• Holden Karnofsky: 50%
• الأمريكي العادي: 26%
• المهندس العادي في مجال الذكاء الاصطناعي (أكتوبر 2023): ~ 40%
• الباحث العادي في مجال التعلم الآلي (ربيع 2022): 10%
• الباحث العادي في مجال التوافق الذكاء الاصطناعي: 30%
كتبهُ : سعيد الكلباني
اقرأ ايضًا إلى متى تستمر قيود الذكاء الاصطناعي؟ 😒🔒
