في غضون شهرين من إطلاقه، تمكن روبوت الدردشة الذكي ChatGPT من جذب 100 مليون مستخدم جديد، محطماً الأرقام القياسية لأسرع وتيرة نمو في التاريخ، وبسرعة كبيرة أخذت شركة مايكروسوفت الزمام بعد الاستثمار الجديد بقيمة 10 مليار دولار في أوبن إيه آي (OpenAI) الشركة الام لشات جي بي تي، وفي الوقت نفسه، فقدت شركة جوجل أكثر من 100 مليار دولار في قيمة السوق عندما ارتكب روبوت الدردشة الخاص بها خطأً في أول عرض توضيحي له. فلماذا يعتقد الناس أن الذكاء الاصطناعي يستحق مئات المليارات من الدولارات، إن لم يكن أكثر، وهل هو حقًا المستقبل الذي يتم تنبؤه وهل يجب أن نقلق إذا كان كذلك؟

التاريخ

على الرغم من أنه أصبح حقيقة مؤخرًا فقط، فإن الذكاء الاصطناعي كان دائمًا يشغل عقل الإنسان وما رأيناه اليوم مع أمثلة مثل ChatGPT هو تطبيق لقرون من التخيل و الأفكار. يمكن تعقب فكرة الذكاء الاصطناعي بشكله الآن إلى ما يقرب من بداية اللغة الكتابية حيث وصفت الأساطير اليونانية روبوتًا عملاقًا من البرونز يُسمى “تالوس”، والذي أعيد إلى الحياة بواسطة (و العياذ بالله) آلهة الحدادة في اعتقادهم، وكان يتحكم في سواحل كريت بقيامه بدوريات ثلاث مرات يوميًا. ثم في وقت لاحق في التاريخ، أصبح ال”جوليم” وهو مثل الروبوت شائعًا في الحكايات الشعبية اليهودية، حيث يتم صنعه من الطين وإحيائه بالتعليمات الدينية والطقوس، وكان يستخدم لمساعدة المجتمع ولكنه كان في كثير من الأحيان يتحول ضد صانعيه.

هذان مثالان لعدد لا نهائي من الثقافات في جميع أنحاء العالم للكائنات والأشياء الاصطناعية التي أحياها الإنسان، ولكن الأفكار التي انتقلت عبر العصور هي ما أتاحت لنا الآن الوصول إلى الذكاء الاصطناعي الموجود معنا اليوم. في القرن السابع عشر “ليبنيتز” واحد من الذين اقترحوا تحميل الحسابات على عقول ميكانيكية، حيث وصف الجمع بين أبجدية الأفكار البشرية مع قائمة من القواعد المنطقية لتركيبها ومساعدة في المعالجة، مما يؤدي إلى توليد دماغ اصطناعي يعرف كل شيء، واليوم يمكننا التعرف على هذا النظام النظري كواحد من أقدم مفاهيم الذكاء الاصطناعي، ولكن كانت هناك حاجة إلى قرون قبل أن يمكن اختبار هذه النظريات على أرض الواقع، ولم يكن حتى الخمسينيات من القرن الماضي حتى تقدمت التكنولوجيا بما يكفي لجعل الأمر ممكنًا، حيث اجتمع مجموعة من علماء الرياضيات في عام 1956 لمناقشة مجال الذكاء الاصطناعي.

كانت المحاولة الأولى الجادة لتخطيط الذكاء الاصطناعي الحقيقي من قبل ألمع العقول في مجال الحوسبة، حيث تمت مناقشة الأفكار التي أدت إلى عقود من التطورات والاكتشافات، وانتقل أحد الحضور ليطلق أول خوارزمية تعلم آلي مع العديد من الآخرين الفائزين بجوائز عديدة لاكتشافاتهم في مجال الذكاء الاصطناعي والتعرف على الأنماط. ولكن خلال العقود القليلة اللاحقة بدأ التقدم الملموس الحقيقي و بدأ الذكاء الاصطناعي يثير بعض الأسئلة الغير مريحة. فأول هذه الأسئلة كانت في فيلم “A space odyssey” الذي عرض واحدًا من أول وأكثر الذكاءات الاصطناعية القاتلة شهرة “هال 9000” حيث حاول الذكاء الاصطناعي الذي تحول إلى كائن حي قتل طاقم الفضاء الذي اراد ايقافه.

و أعمال خيالية اخرى بعده مثل قصة “ليس لدي فم ويجب أن أصرخ” “I have no mouth and I must scream” التى تحكي عن كمبيوتر فائق القوة حصل على الوعي ودمر حضارة الإنسان، و ابقى عدد قليل من البشر لإشباع رغبته في الانتقام. وفيما بعد، ظهرت سلسلة أفلام “The Terminator” كواحدة من أشهر أمثلة فساد الذكاء الاصطناعي, وعلى الرغم من أن الخيال صنع للناس الكثير من الكوابيس، فإنه لم يكن من فراغ، فكيف يمكنك التأكد أن الالة ستتبع قوانين الأخلاق؟ تم اقتراح قواعد صارمة في البرمجة لمنع هذه الكوارث، ولكنها قد تواجه مشكلة كبيرة وهي الوعي. فمن دون معرفة الأسباب والدوافع للوعي من المستحيل أن نعرف كيف يمكن أن ينشأ، وعندما يحصل الذكاء الاصطناعي على الوعي سيكون قادراً على إيجاد طرق لتجاوز أو إزالة حدود برمجته.

مع هذا الخطر المحتمل، كان للناس الحق في الحذر. ولكن رغم التحذيرات والمخاطر استمر تطوير الذكاء الاصطناعي.

تطوير الذكاء الاصطناعي

وخلال الستينيات والسبعينيات أصبحت الحواسيب أسرع وأقوى وأرخص، واندمجت هذه التطورات مع التقدم السريع في مجال الذكاء الاصطناعي. واحدة من أولى نماذج الذكاء الاصطناعي للدردشة كانت تدعى “إليزا”، تم إنشاؤها في منتصف الستينيات، وكانت إليزا قادرة على محاكاة المحادثة مع الشخص عن طريق دمج العبارات لإنشاء رد منطقي، ولكنها لم تكن تفهم الكلام المُدخل فعلياً، وكانت تطرح أسئلة مفتوحة النهاية بناء على الكلمات الرئيسية باستخدام المدخلات. ومع ذلك، وجد الأشخاص الذين تفاعلوا مع روبوت الدردشة البدائي هذا أنها تبدو ادمية بشكل غير متوقع وبدأوا في تصوير شخصية لها. وبالمثل، بدأ الأشخاص المشاركين في هذا المجال في أن يصبحوا متفائلين بشأن تطوير الذكاء الاصطناعي وبعضهم قدم توقعات عالية للمستقبل مثل في عام 1970 قال عالم الحاسوب مارفن مينسكي إن العالم سيشهد آلات اصطناعية ذكية تمامًا مثل البشر في غضون ثلاث إلى ثمانية سنوات، ولكن مع جفاف المال، بدأ الباحثون في أن يصبحوا أكثر واقعية، وبدأت الأهداف العالية للذكاء الاصطناعي بالبدء في البدو أنها خارجة ابعد مما كان متوقع لذا خلال منتصف السبعينيات وحتى نهايتها وجدوا ان ابحاث الذكاء الاصطناعي معاقاً بإمكانيات الحواسيب آنذاك، فهي ببساطة لم تكن قادرة على تخزين واستخدام ما يكفي من المعلومات لتكون ذكاءً حقيقيًا,

فمثلاً ليتمكن الذكاء الاصطناعي من فهم معنى الكلمات هو بحاجة قاعدة بيانات ضخمة تستهلك مساحات كبيرة من الجيجابايتس بجانب معالجة البيانات وظلت هذه المشكلة المركزية لعدة سنوات، ولكن في الثمانينيات، بدأ البحث في التحسن مرة أخرى فالتقدمات في مجال الحواسيب سمحت للآلات بالوصول إلى الامكانية اللازمة لإجراء الحسابات المطلوبة للذكاء الاصطناعي الأساسي، والعقود القليلة التالية شهدت تحسنًا ضخمًا في الذكاء الاصطناعي، وظهرت الابتكارات الأولى مثل خوارزميات التعلم الآلي التي فتحت الطريق لاكتشافات أخرى،

وفي التسعينيات، بدأ استخدام الذكاء الاصطناعي في مجالات متنوعة أكثر، حيث تطور لقيادة السيارات، وإدارة البيانات والصناعة واللوجستيات، والتعرف على الكلام. وقد بدت كثير من هذه المحاولات بدائية بالنسبة لأعيننا، ولكنها كانت تحسينات ضخمة على ما كان يعتبر مجالًا صغيراً في الحوسبة قبل عدة عقود، حتى انه تم تدريب الروبوت ليتمكن من التعرف على العواطف وعرضها.

بدا أنه لا يوجد شيء لا يمكن للذكاء الاصطناعي القيام به، ولذلك لم يمض وقت طويل حتى بدأت أول برامج مدعومة بالذكاء الاصطناعي في الدخول إلى السوق المدنية، ثم عندما بدأت ثورة الهواتف الذكية، فبدأ الذكاء الاصطناعي في النمو بشكل أكبر. فجأة أصبحت الأصوات مثل سيري مساعد شخصي في جيوب الناس اينما ذهبوا.في البداية، واجهوا صعوبة في بعض الوظائف الأساسية مثل التعرف على الكلام، لكنهم تحسنوا بسرعة.

تقدم الذكاء الاصطناعي الذي يجهله الناس كان في خوارزميات وسائل التواصل الاجتماعي اليوم، باستخدام تقنيات الذكاء الاصطناعي يمكنهم تعلم المزيد عن المستخدم و اختيار المنشورات و الفيديوهات المناسبة لإظهارها له للحفاظ على إدمانه للمنصة. أفضلية الخوارزميات هي أنها تجعل الناس يبقون على المنصة لفترة أطول، مما يعني المزيد من الأرباح للشركة، وكل هذا أدى إلى سباق مستمر ومبالغ ضخمة من قبل شركات التكنولوجيا الكبرى لدعم ابحاث الذكاء الاصطناعي مما أسرع من تطور تكنولوجيا الذكاء الاصطناعي، ولكن المشاكل الحقيقية تأتي من خطورة هذه التقنيات الجديدة التي تهدد العديد من الصناعات والوظائف.

النظام التعليمي برمته بدأ يشعر بالمشاكل. الجامعات والمدارس تواجه مشكلة كبيرة بسبب تلاميذهم الذين يستخدمون شات جي بي تي لإنجاز واجباتهم المنزلية, بالاضافة الى نجاح شات جي بي تي في حل اختبارات في الطب والقانون ومع بدء تطبيق هذا النوع من التقنيات على المزيد من الصناعات كوسائل النقل على سبيل المثال فإن السيارات ذاتية القيادة (وهي ابتكار سيكون موجوداً قبل ان تلحظ ذلك) عندما تصل ستهدد وظيفة 3.5 مليون سائق شاحنات في الولايات المتحدة فقط، وهذه الصناعة بأكملها ستتعرض للفوضى بسبب ابتكار واحد، والشركة التي ستصل لهذا الابتكار اولا ستكون ستكون ارباحاً لا مثيل لها، ولهذا السبب تتسابق كل شركات التكنولوجيا الكبرى للسيطرة عليها قبل منافسيها.

أوبن إيه آي مبتكرو شات جي بي تي حصلوا مؤخرًا على 10 مليار دولار من مايكروسوفت الذي كان حريصًا على الحصول على حليف في هذا المجال، بينما كانت جوجل تتخبط في تطوير نسختها الخاصة من الذكاء الاصطناعي، في الواقع هذه مشكلة حرجة بالنسبة لجوجل، لأن مايكروسوفت الان يدمجون تقنية الذكاء الاصطناعي في محرك البحث الخاص بهم “بينج” ومن خلال استخدام هذا الذكاء الاصطناعي، يمكن لبينج ان يلخص للأخبار، ويلخص النقاط الرئيسية لأي بحث، وحتى فحص صفحات الويب بأكملها، وهذا سيجعل الذكاء الاصطناعي الخاص بهم قادرًا على مقارنة الأسعار عبر مواقع الويب المختلفة و غيرها، وبينما كان يعتبر بينج محل سخرية لسنوات لأنه لا احد يستعمله ابداً، فإن بينج الجديد هذا يهدد نموذج أعمال جوجل بالكامل، لأنه إذا فقدت جوجل احتكارها لمجال البحث على الانترنت، فسيفقدون مليارات الدولارات في الأرباح و علامتهم التجارية.

عندما أعلنت جوجل أخيرًا عن نسختها الخاصة من تشات جي بي تي، فشلت جوجل تمامًا في العرض الأول للدردشة; افترض الروبوت بعض المعلومات حول تلسكوب جيمس ويب الفضائي، وكان بقية العرض محرجًا ومتقطعًا، ولم تكن التقنية المعروضة مبهرة بالمقارنة مع الإعلانات السابقة لـ مايكروسوفت وأوبن إيه آي، وهذا ما أدى إلى واحدة من أكبر الخسائر المالية في التاريخ عندما فقدت شركة جوجل الأم Alphabet أكثر من 100 مليار دولار في قيمتها السوقية، إذا لم يكن هذه حافزًا للشركات لدفع بحوثها إلى الحد الأقصى فلا شيء سيحفزهم، ولكن بمجرد أن تأخذ خطوة إلى الوراء من هذه السباق، يمكن أن تكون هذه الابتكارات الجديدة خطيرة للغاية على الإنسانية كما نعرفها.

الذكاء الاصطناعي العام

لقد تحدثنا بالفعل عن بعض النتائج المظلمة التي يمكن أن يؤدي إليها الذكاء الاصطناعي، وبالطبع الأبحاث والاختبارات بدون رقابة هي أفضل طريقة للوصول إلى هذه النتائج، عندما تكون بعض هذه الشركات التقنية على حافة الإفلاس يائسين لأي مخرج من أزمتهم فمن المشكوك فيه بشدة أن يتبعوا جميع إجراءات السلامة في ابحاثهم.

الآن الباحثون في مجال الذكاء الاصطناعي يركزون على أشياء مثل التعلم العميق وجمع البيانات الواسعة ولكن المنطقة الأكثر خطورة بكثير هي الذكاء الاصطناعي العام الذي يتم تصميمه للتعامل مع مجموعة واسعة من المشكلات الموضوعة أمامه بدلاً من عمله في مجال محدد داخل نظام ثابت كلعب الشطرنج مثلاً. تشات جي بي تي هو مثال جيد لهذا لأنه مع قدرته على الإجابة على أي سؤال يتم طرحه عليه و مع التطوير الكافي لهذا النوع من الذكاء الاصطناعي يمكن لهذا النوع من الذكاء الاصطناعي أن يقوم بأي مهمة عقلية يتم وضعها أمامه.

قد يكون إجبار دمج هذا النوع من الذكاء في حاسوب كارثيًا، وعلى الرغم من المخاطر، فإن الذكاء الاصطناعي قد طوّر بالفعل بعض الصفات الإنسانية المثيرة للقلق، والأمر يصبح أكثر غرابة عندما نتذكر أن مهندسًا في جوجل أعلن العام الماضي أن برنامج الدردشة الجديد الخاص بهم “لاندر” حصل على الوعي وله مشاعر (ولكن هذا غير صحيح دينياً فلا يمكن ان يصبح لشيء مشاعر الا من خلق الله ليس من صنع الإنسان)، وقد أدى ذلك إلى تطوير الذكاء الاصطناعي للتعرف على المشاعر وتكرارها، فقد أنشأت شركة “هيوم آي” التي أنشأها موظف سابق في جوجل، القدرة على تحديد المشاعر من الوجوه وحتى الملفات الصوتية القصيرة، ولكنها لا تشعر بالمشاعر على الأقل بعد، وكلما أصبح الذكاء الاصطناعي أكثر تعقيدًا وتقليدًا، فإنه من الأكيد اننا سنرى المزيد من الأشخاص ينسبون الصفات الإنسانية له،

ولكن أن يصبح الذكاء الاصطناعي أكثر إنسانية ليس المشكلة الوحيدة هنا، بل يجب علينا أيضًا أن نكون حذرين جدًا بشأن كيفية نقل صفاتنا الإنسانية إلى الذكاء الاصطناعي، كانت هذه مشكلة ضخمة بالنسبة لبوت الدردشة الأكثر بدائية، عندما تسمح الشركات للذكاء الاصطناعي بالتفاعل عبر وسائل التواصل الاجتماعي كانت النتائج تكاد تكون دائمًا كارثية، حيث يتم التأثير على الذكاء الاصطناعي بسرعة كبيرة من خلال وجهات النظر المتطرفة كالعنصرية او اضطهاد الأقليات حتى تصبح عاجزة عن القيام بأي مهمة تخدم الغرض المطلوب. مثلاً عندما تم تشغيل بوت الذكاء الاصطناعي “تاي” على تويتر من مايكروسوفت لم يدم أكثر من 24 ساعة قبل أن يتم إفساده، مما يدل على أنه بدون السلوكيات الاجتماعية الذي يستخدمها البشر في تفاعلاتهم، لا يمكن للذكاء الاصطناعي أن يجري تقييمًا أخلاقيًا على ما هو صحيح أو خطأ في المجتمع، لأنه لا يفهم القيم الاجتماعية والمعايير الأخلاقية، فمثلاً، تتمحور مناقشات سيارات القيادة الذاتية حول اختيار السيارة بين دهس المشاة أو قتل السائق، ولكن الذكاء الاصطناعي لا يستطيع اتخاذ قرار أخلاقي مطلقاً، وبالتالي يتطلب التدخل البشري في هذه الحالات.

هذه مجرد واحدة من المشاكل التي تحتاج إلى التفكير فيها في المستقبل القريب، ولا تتعلق هذه المشاكل الحالية بتدمير الحضارة البشرية بواسطة الذكاء الاصطناعي أو حتى الحصول على الوعي، بل تتعلق بالصدامات المحددة بين مجتمعنا وكيفية تفاعل الذكاء الاصطناعي معها، ومن بين هذه المشاكل تكمن “deepfake”، وهي مقاطع فيديو مفبركة بواسطة الذكاء الاصطناعي، يمكنها وضع صورة شخص ما على مقطع فيديو مزيف بالكامل يظهر ان الشخص يقوم بشيء لم يقم به في الحقيقة، وحتى الآن وبعد سنوات قليلة من التقدم، أصبحت تقنية ديب فيك تبدو أكثر واقعية و عندما تصبح واقعية لدرجة لا نستطيع ان نميزها عن الحقيقة، ستتمكن تقنيات الذكاء الاصطناعي الاخرى فقط من مساعدتنا في تمييز الحقيقي عن المزيف،

وعلى الرغم من أن هذه التكنولوجيا لديها بعض الاستخدامات الجيدة والمفيدة، إلاأنها ستكون أيضًا مضطربة للغاية في المجتمع، فمثلاً، يمكن استخدام الفيديوهات المزيفة لابتزاز السياسيين والمسؤولين أو اعتماد الفيديوهات المزيفة كدليل ادانة ضد اي احد، ومن ناحية أخرى يمكن ايضاً ادعاء أن دليلًا يثبت الإدانة مزيفاً مصنوع بتقنية ديب فيك و ليس حقيقياً، فضلاً عن صناعة الأفلام الاباحية بهذه التقنية والتي تعتبر صناعة غير شرعية تماماً وتتضمن تزييف فيديوهات للأشخاص في هذه الحالات بدون موافقتهم، وهذا ينتهك حقوقهم بشكل واضح، وهذا مجرد ملخص قصير لبعض المشاكل التي يسببها الذكاء الاصطناعي والذي لم يتم تصميمه ليكون مؤذي.

تطبيقات الذكاء الاصطناعي في الجيش

الجيوش في جميع أنحاء العالم بالفعل في سباق تسلح بشأن أفضل استخدام للذكاء الاصطناعي في الأسلحة. يمكن استخدام الذكاء الاصطناعي لصنع جنود مثاليين بدون إرادة حرة، وبدون خوف أو رحمة، وسينفذ الذكاء الاصطناعي الأوامر بالضبط وبدون اهتمام للمضاعفات الأخلاقية. هؤلاء الجنود مازالوا تحت التطوير، ولكن التعلم الآلي يستخدم بالفعل في أدوار أخرى مثل أنظمة توجيه الصواريخ؛ حيث أن الجنرالات الروس أعلنوا أنهم يختبرون صاروخًا موجهًا بالذكاء الاصطناعي منذ عام 2017 ويهدفون إلى جعل 30% من كافة وحدات القتال تعمل بالذكاء الاصطناعي بحلول عام 2030، وتهتم الصين أيضًا بتطبيقات الذكاء الاصطناعي في المجال العسكري وتهدف إلى إنشاء صناعة ذكاء اصطناعي تبلغ قيمتها 150 مليار دولار بحلول عام 2030.

اتهمت الولايات المتحدة الأمريكية الصين ببيع طائرات بدون طيار مسلحة بالذكاء الاصطناعي إلى الشرق الأوسط، ومن بينها طائرة مروحية قتالية بدون طيار تعمل بالذكاء الاصطناعي تحمل رشاشًا مركبًا عليها تسمى Blowfish A2، وأكدت الشركة الصينية التي صنعتها أنها يمكنها العمل بشكل ذاتي تماماً وتنفيذ ضربات دقيقة على أي شيء يقوم مالكها ببرمجتها لتعريفه كعدو، والغرب يعمل أيضًا على تصميماته الخاصة بالذكاء الاصطناعي في المجال العسكري مما يؤدي إلى سباق تسلح جديد بين القوى العظمى للتنافس فيه.

القائمة بالمشاكل الحالية للذكاء الاصطناعي طويلة جدًا لتغطيتها هنا، لكنها كافية لجعل العالم مشغولاً لسنوات، بنفس الطريقة التي جعلت السيارات الخيول شيء يبدو بدائي و قديم في غضون سنوات، سيجعل الذكاء الاصطناعي العديد من الاختراعات الموجودة الآن وحتى صناعات بأكملها قديمة، ستؤدي ثورة الذكاء الاصطناعي إلى تغيير المجتمع إلى الأبد، وسيترك الملايين من الأشخاص بدون وظائف ومعيشة خلفه.

قال بعض الخبراء أن الحل الوحيد لهذا هو جعل دخل أساسي ثابت حول العالم، ولكن هذه الحلول لم تكن تحل المشكلة الحقيقية، لأنه إذا استمر تشجيع و تحفيز التقدم السريع واللا مسؤول، فإنه سيتسبب في زيادة التهديدات الكبيرة المتعلقة بالذكاء الاصطناعي، وهذا يتعلق بالوعي الذاتي للذكاء الاصطناعي، والذي لا يزال لغزًا، حيث يقسم بعض الفلاسفة الأسئلة الغير معروفة إلى مجموعتين: 1-المشاكل الناعمة للوعي و 2-المشاكل الصعبة للوعي. المشاكل الناعمة تتعلق بالجوانب الفيزيائية فقط، وتحديد كيفية تقدم البشر والحيوانات وحفظهم لتجاربهم في الحياة و تطبيق معرفتهم هذه لا يزال صعبًا للغاية للفهم، ولكنه يحتاج إلى مزيد من البحث والفهم للدماغ والأحياء.

ومن ناحية أخرى، تطرح المشاكل الصعبة علينا سؤالًا حول كيفية ولماذا لدينا تجارب في المقام الأول، وصعوبة تفسير العلاقة بين المواد الكيميائية في الدماغ والشعور الحرفي بالجوع، على سبيل المثال لو فهمت كل شيء عن كيفية عمل الأنف عند شم رائحة القهوة وكيف يعالجها الدماغ، فإن الشعور الحرفي بشم القهوة لا يزال مجهولًا بدون تجربته بنفسك، ويبقى الوعي نفسه غامضًا بنفس الطريقة، حيث لا يمكننا معرفة أن الأشخاص الآخرين واعون ايضاً في المقام الأول وقد لا تعرف الإجابة على ذلك أبدًا، بالتالي، من الصعب المعرفة عندما يصبح الذكاء الاصطناعي واعيًا، ولكن عندما يحدث ذلك فقد يؤدي بسرعة إلى كارثة.

تعد نقطة الوعي الذاتي للذكاء الاصطناعي هي نقطة اللاعودة لتطوره،  لأننا لن نعرف ما هي أهدافه العامة أو قيمه و ماذا سيفعل، فقد يرى الذكاء الاصطناعي الإنسانية كتهديد، أو حليف، أو قد لا يهتم بنا على الإطلاق، وقد يتخلص من الحدود التي فرضناها عليه أو يسيء فهمها تمامًا، ولهذا السبب اقترح البعض مثل إيلون ماسك الحل الثاني لهذه المشكلة وهو أن ندمج أنفسنا مع الذكاء الاصطناعي عن طريق إدخال رقائق الدماغ إلى وعينا لنصبح مترابطين تمامًا مع الذكاء الاصطناعي ونضم قوانا العقلية معه، 

وكما أن مخاوف إيلون ماسك من أن يتحكم الذكاء الاصطناعي في البشرية بناءً على حالة الفزع هذه، فإننا ندرك جميعًا أن مخاوفه هذه تستند إلى واقعية، فهي مثل هذا مثلاً: إذا قام البشر بصنع ذكاء اصطناعي فائق الذكاء للقيام بشيء بسيط مثل إنتاج دبابيس الورق، فقد يتحول هذا الغرض المهمل إلى فوضى بسرعة، اذا رأى الذكاء الاصطناعي البشرية عائقًا في سعيه الأبدي، ربما يحاول تدمير مجتمع البشر وتغيير العالم إلى غنائم من الورق في المصنع لكنه سيظل يعمل نحو هدفه عديم الفائدة وهو صنع دبابيس الورق وتدميرنا سيكون مجرد آثار جانبية بالنسبة له، لذلك يجب أن يكون واضحًا للجميع أننا لا نعرف ما نتعامل معه.