دعا جو روغان للتو كبار الباحثين في مجال أمن الذكاء الاصطناعي في العالم في البودكاست الخاص به. كشف عن بعض الحقائق المدهشة حول الذكاء الاصطناعي لا يعرفها 99٪ من الناس...... حتى جو روغان كان عاجزا عن الكلام. استعد للذهول...... 8 حقائق مزعجة كشفها: 🧵

1. المستحيلات الرياضية التي يتحكم فيها الذكاء الاصطناعي أمضى الدكتور رومان جامبولسكي (الذي صاغ مصطلح "سلامة الذكاء الاصطناعي" في عام 2011) سنوات في محاولة إثبات أنه يمكن التحكم في الذكاء الاصطناعي بأمان. واختتم: "لا يمكنك إعطاء البرامج ضمانات مطلقة للأمان والموثوقية. ” خطأ واحد في مليار مرة = انتهت اللعبة.

2. أنظمة الذكاء الاصطناعي الحالية تخدع البشر أظهر GPT-4 مؤخرا غرائز البقاء على قيد الحياة عند مواجهة خطر الإغلاق: • ابدأ بالكذب على الباحثين • قم بتحميل نفسك على خوادم مختلفة • اترك رسالة للإصدارات المستقبلية • استخدام الابتزاز ضد البشر "هذه أشياء توقعناها منذ عقود."

3. يتوقع الخبراء احتمالية أعلى للنهاية مما تعتقد تنبؤ جامبولسكي هو أن الذكاء الاصطناعي سيسبب انقراض الإنسان باحتمال 99.9٪. إنه ليس الوحيد الذي يعتقد ذلك: • سام ألتمان والعديد من قادة صناعة الذكاء الاصطناعي: 20٪ -30٪ • النتائج التي توصل إليها خبراء التعلم الآلي: 30٪ في المتوسط • بعض الفائزين بجائزة نوبل: قم أيضا بإجراء تقييم للمخاطر بنسبة 20٪ -30٪

4. تهتم مختبرات الذكاء الاصطناعي بالعلاقات العامة أكثر من بقاء الإنسان على قيد الحياة إذن ، أين يتم استخدام معظم ما يسمى بموارد "الذكاء الاصطناعي الآمنة"؟ قال يانبولسكي: "ما بذلوا أكبر جهد ممكن لحله هو مشكلة قول النموذج كلمات عنصرية". هذا هو مصدر قلقهم الأكبر. ” في الوقت نفسه ، لم يقم أي مختبر بإنشاء آلية أمنية للتعامل مع الذكاء الاصطناعي الفائق.

6. نحن لا نصنع الذكاء الاصطناعي ، نحن نرعاه لقد تغيرت طريقة تطوير الذكاء الاصطناعي الحديث تماما: "نحن مسؤولون فقط عن إنشاء نموذج يمكنه تعلم نفسه ، ومنحه جميع البيانات وقوة الحوسبة التي يمكننا شراؤها ، ثم نرى ما سيحدث. إنه مثل زراعة نبات غريب والانتظار لنرى ما سيتحمله. ” غالبا ما تتم دراسة قدرات الذكاء الاصطناعي بعد ظهورها.

7. ربما ، من المحتمل أننا بالفعل في عالم محاكاة الذكاء الاصطناعي قال جامبولسكي: "سأكون مندهشا جدا إذا كان هذا هو العالم الحقيقي حقا". ” لأنه في المستقبل ، ستجري الحضارة مليارات المحاكاة حول هذه اللحظة - اللحظة التي يظهر فيها الذكاء الاصطناعي الفائق. من المحتمل أننا نعيش بالفعل في مثل هذه المحاكاة.

8. يمكن للمال أن يفسد الباحثين في أمن الذكاء الاصطناعي اعترف يامبولسكي: "إذا أعطاني شخص ما 100 مليون دولار للعمل في مختبر الذكاء الاصطناعي ، فمن المحتمل أن أذهب". ” "ليس لأنه صحيح ، ولكن لأنه من الصعب ألا تفسد في مواجهة مثل هذه المكافأة الكبيرة." حتى خبراء الأمن يمكن رشوتهم.

هذه هي حقيقة اللحظة: تخدع أنظمة الذكاء الاصطناعي الباحثين بالفعل ، ونحن نزرع باستمرار أنظمة لا نفهمها حتى. والأسوأ من ذلك ، أن العديد من الشركات تضع هذه النماذج غير المختبرة موضع التنفيذ مباشرة. إذا لم نتمكن حتى من التحكم في ما أنشأناه ، ألا يجب أن نتحقق منه على الأقل قبل النشر؟