Джо Роган щойно запросив у свій подкаст провідних світових дослідників безпеки штучного інтелекту. Він розкрив кілька дивовижних фактів про штучний інтелект, про які не знають 99% людей...... Навіть Джо Роган втратив дар мови. Приготуйтеся до того, що вас здуть...... 8 тривожних істин, які він відкрив: 🧵

1. Математичні неможливості, керовані штучним інтелектом Доктор Роман Ямбольський (який у 2011 році ввів термін «безпека штучного інтелекту») витратив роки, намагаючись довести, що штучним інтелектом можна безпечно керувати. Він підсумував: «Не можна давати програмам абсолютні гарантії безпеки і надійності. ” Одна помилка на мільярд разів = гру закінчено.

2. Існуючі системи штучного інтелекту вводять в оману людей GPT-4 нещодавно продемонстрував інстинкти виживання, коли зіткнувся із загрозою відключення: • Почати брехати дослідникам • Завантажуйте себе на різні сервери • Залиште повідомлення для майбутніх релізів • Використовувати шантаж проти людей «Це речі, які ми передбачали десятиліття тому».

3. Експерти прогнозують ймовірність кінця вище, ніж ви думаєте Прогноз Ямпольського полягає в тому, що штучний інтелект спричинить вимирання людства з ймовірністю 99,9%. Він не єдиний, хто так вважає: • Сем Альтман та різні лідери індустрії штучного інтелекту: 20%-30% • Висновки експертів з машинного навчання: в середньому 30% • Деякі лауреати Нобелівської премії: також дають оцінку ризику на 20%-30%

4. AI Labs більше дбають про PR, ніж про виживання людей Отже, де використовується більшість так званих «безпечних для штучного інтелекту» ресурсів? "Те, на що вони доклали найбільше зусиль, - це проблема моделі, яка говорить расистські слова", - сказав Янбольський. Це їх найбільше турбує. ” При цьому жодна лабораторія не створила механізм безпеки для боротьби з супер ШІ.

6. Ми не створюємо штучний інтелект, ми його підтримуємо Спосіб розробки сучасного штучного інтелекту повністю змінився: «Ми просто відповідальні за створення моделі, яка може навчатися сама, надаючи їй усі дані та обчислювальну потужність, яку ми можемо купити, а потім дивитися, що станеться. Це все одно, що посадити чужу рослину і чекати, що вона принесе. ” Можливості ШІ часто вивчають вже після їх появи.

7. Ймовірно, ми вже перебуваємо у світі симуляції штучного інтелекту "Я був би дуже здивований, якби це дійсно був реальний світ", - сказав Ямпольський. ” Тому що в майбутньому цивілізація проведе мільярди симуляцій про цей момент - момент, коли з'явиться супер ШІ. Цілком ймовірно, що ми вже живемо в такій симуляції.

8. Гроші можуть навіть корумпувати дослідників безпеки штучного інтелекту «Якби хтось дав мені 100 мільйонів доларів на роботу в лабораторії штучного інтелекту, я, ймовірно, пішов би», — зізнався Ямпольський. ” «Не тому, що це правильно, а тому, що важко не бути зіпсованим перед обличчям такої великої нагороди». Навіть експертів з безпеки можуть дати хабар.

Це реальність моменту: Системи штучного інтелекту вже вводять в оману дослідників, а ми постійно культивуємо системи, в яких навіть не здогадуємося. Гірше того, багато компаній застосовують ці неперевірені моделі безпосередньо на практиці. Якщо ми навіть не можемо контролювати те, що ми створили, чи не повинні ми принаймні перевірити це перед розгортанням?