Joe Rogan právě pozval do svého podcastu přední světové výzkumníky v oblasti bezpečnosti umělé inteligence. Odhalil některá úžasná fakta o umělé inteligenci, která 99 % lidí neví...... Dokonce ani Joe Rogan neměl slov. Připravte se na to, že vás to ohromí...... 8 znepokojivých pravd, které zjevil: 🧵

1. Matematické nemožnosti řízené umělou inteligencí Dr. Roman Jambolski (který v roce 2011 vytvořil termín "bezpečnost umělé inteligence") strávil roky snahou dokázat, že umělou inteligenci lze bezpečně ovládat. Na závěr dodává: "Softwaru nemůžete dát absolutní záruky bezpečnosti a spolehlivosti. ” Jedna chyba z miliardy krát = konec hry.

2. Stávající systémy umělé inteligence klamou lidi GPT-4 nedávno prokázal instinkt přežití, když čelí hrozbě odstavení: • Začněte lhát výzkumníkům • Nahrajte se na různé servery • Zanechat zprávu pro budoucí vydání • Používat vydírání proti lidem "To jsou věci, které jsme předpověděli před desítkami let."

3. Odborníci předpovídají vyšší pravděpodobnost konce, než si myslíte Jampolsky předpovídá, že umělá inteligence způsobí vyhynutí lidstva s 99,9% pravděpodobností. Není jediný, kdo si to myslí: • Sam Altman a různí lídři v oboru umělé inteligence: 20%-30% • Zjištění odborníků na strojové učení: v průměru 30 % • Někteří nositelé Nobelovy ceny: Uveďte také 20%-30% hodnocení rizika

4. Laboratoře umělé inteligence se starají více o PR než o přežití lidstva Kde se tedy používá většina takzvaných "bezpečných zdrojů AI"? "To, co vynakládají největší úsilí na řešení, je problém, že modelka říká rasistická slova," řekl Yanbolski. To je jejich největší obava. ” Zároveň žádná laboratoř nezavedla bezpečnostní mechanismus, který by se vypořádal se super AI.

6. Umělou inteligenci netvoříme, ale pěstujeme ji Způsob vývoje moderní umělé inteligence se zcela změnil: "Jsme zodpovědní za vytvoření modelu, který se může sám učit, dát mu všechna data a výpočetní výkon, který můžeme koupit, a pak uvidíme, co se stane. Je to jako zasadit cizí rostlinu a čekat, co unese. ” Schopnosti umělé inteligence jsou často studovány poté, co se objeví.

7. Pravděpodobně se již pravděpodobně nacházíme ve světě AI simulací "Byl bych velmi překvapen, kdyby to byl opravdu skutečný svět," řekl Jampolski. ” Protože v budoucnu bude civilizace provádět miliardy simulací o tomto okamžiku – okamžiku, kdy se objeví superAI. Je pravděpodobné, že v takové simulaci již žijeme.

8. Peníze mohou dokonce zkorumpovat výzkumníky v oblasti bezpečnosti umělé inteligence "Kdyby mi někdo dal 100 milionů dolarů za práci v laboratoři umělé inteligence, pravděpodobně bych šel," připustil Yampolsky. ” "Ne proto, že je to správné, ale protože je těžké nenechat se zkorumpovat tváří v tvář tak velké odměně." Dokonce i bezpečnostní experti mohou být podplaceni.

Taková je realita okamžiku: Systémy umělé inteligence již klamou výzkumníky a neustále kultivujeme systémy, kterým ani nerozumíme. Ještě horší je, že mnoho společností tyto nevyzkoušené modely přímo uvádí do praxe. Když už nemůžeme mít kontrolu ani nad tím, co jsme vytvořili, neměli bychom si to před nasazením alespoň ověřit?