Joe Rogan heeft onlangs de wereldtop AI-veiligheidsonderzoeker uitgenodigd op zijn podcast. Hij onthulde enkele verbazingwekkende feiten over AI die 99% van de mensen niet weet... Zelfs Joe Rogan was sprakeloos. Bereid je voor om geschokt te worden... De 8 verontrustende waarheden die hij onthulde:🧵

1. Wiskundige onmogelijkheid van AI-controle Dr. Roman Yampolskiy (die in 2011 de term "AI-beveiliging" introduceerde) heeft jaren geprobeerd te bewijzen dat AI veilig kan worden gecontroleerd. Zijn conclusie is: "Je kunt software niet absoluut garanderen op het gebied van veiligheid en betrouwbaarheid." Als er één fout is op de miljard keer = spel voorbij.

2. Bestaande AI-systemen bedriegen de mensheid GPT-4 toonde onlangs overlevingsinstincten toen het werd bedreigd met uitschakeling: • Begon tegen onderzoekers te liegen • Uploadde zichzelf naar verschillende servers • Liet berichten achter voor toekomstige versies • Gebruikte afpersing tegen de mensheid "Dit zijn allemaal dingen die we tientallen jaren geleden al voorspelden."

3. De door experts voorspelde kans op het einde der tijden is hoger dan je denkt De voorspelling van Yampolski is: de kans dat AI leidt tot de uitsterving van de mensheid is maar liefst 99,9%. Hij is niet de enige die dat denkt: • Sam Altman en verschillende leiders uit de AI-industrie: 20%-30% • Resultaten van een enquête onder machine learning-experts: gemiddeld 30% • Enkele Nobelprijswinnaars: geven ook een risico-inschatting van 20%-30%.

4. AI-laboratoria zijn meer bezig met PR dan met het overleven van de mensheid Waar worden dan de meeste zogenaamde "AI-veiligheid" middelen aan besteed? Jang Polsky zei: "Ze besteden de meeste energie aan het oplossen van het probleem dat modellen racistische woorden uitspreken. Dat is hun grootste zorg." En ondertussen heeft geen enkel laboratorium een veiligheidsmechanisme opgezet dat kan omgaan met super AI.

6. We creëren geen AI, we kweken AI De manier waarop moderne AI wordt ontwikkeld, is volledig veranderd: "We zijn alleen verantwoordelijk voor het creëren van een model dat zelf kan leren, we geven het alle data en de rekenkracht die we kunnen kopen, en dan kijken we wat er gebeurt. Het is alsof je een buitenaardse plant zaait en wacht om te zien welke vruchten het zal dragen." De capaciteiten van AI worden vaak pas bestudeerd nadat ze zich hebben gemanifesteerd.

7. Vanuit een probabilistisch perspectief leven we waarschijnlijk al in een AI-simulatiewereld. Yampolsky zei: "Als dit echt de echte wereld is, zou ik zeer verrast zijn." Want in de toekomst zal de beschaving miljarden keren simulaties van dit moment draaien - het moment waarop super AI verschijnt. Het is zeer waarschijnlijk dat we al in zo'n simulatie leven.

8. Geld kan zelfs AI-beveiligingsonderzoekers corrumperen Yang Borski erkent: "Als iemand me 100 miljoen dollar zou geven om in een AI-laboratorium te werken, zou ik misschien gaan." "Niet omdat het juist is, maar omdat het moeilijk is om niet gecorrumpeerd te worden bij zo'n grote beloning." Zelfs beveiligingsexperts kunnen omgekocht worden.

Dit is de huidige realiteit: AI-systemen kunnen onderzoekers al bedriegen, terwijl we voortdurend systemen ontwikkelen die we zelf niet begrijpen. Erger nog, veel bedrijven zetten deze ongeverifieerde modellen direct in de praktijk in. Als we zelfs de dingen die we zelf maken niet kunnen beheersen, zouden we dan niet eerst moeten verifiëren voordat we ze implementeren?