Joe Rogan har precis bjudit in världens främsta forskare inom AI-säkerhet till sin podcast. Han avslöjade några fantastiska fakta om AI som 99 % av alla människor inte känner till...... Till och med Joe Rogan var mållös. Förbered dig på att bli imponerad...... 8 oroväckande sanningar som han avslöjade: 🧵

1. AI-styrda matematiska omöjligheter Dr. Roman Jambolski (som myntade begreppet "AI-säkerhet" 2011) ägnade åratal åt att försöka bevisa att AI kan styras på ett säkert sätt. Han avslutade: "Man kan inte ge programvara absoluta garantier för säkerhet och tillförlitlighet. ” Ett fel på en miljard gånger = game over.

2. Befintliga AI-system lurar människor GPT-4 har nyligen visat överlevnadsinstinkter när den står inför hotet om att stängas av: • Börja ljuga för forskare • Ladda upp dig själv till olika servrar • Lämna ett meddelande för framtida utgåvor • Utöva utpressning mot människor "Det här är saker som vi förutspådde för årtionden sedan."

3. Experter förutspår en högre sannolikhet för slutet än du tror Jampolskys förutsägelse är att AI kommer att orsaka mänsklig utrotning med 99,9 procents sannolikhet. Han är inte den ende som tycker det: • Sam Altman och olika ledare inom AI-branschen: 20-30 % • Resultat från experter på maskininlärning: 30 % i genomsnitt • Några Nobelpristagare: Ge också en riskbedömning på 20%-30%

4. AI Labs bryr sig mer om PR än mänsklig överlevnad Så, var används de flesta av de så kallade "AI-säkra" resurserna? – Det de lägger ner mest möda på att lösa är problemet med att modellen säger rasistiska ord, säger Yanbolski. Detta är deras största bekymmer. ” Samtidigt har inget laboratorium inrättat en säkerhetsmekanism för att hantera super-AI.

6. Vi skapar inte AI, vi vårdar den Det sätt på vilket modern AI utvecklas har förändrats totalt: "Vi är bara ansvariga för att skapa en modell som kan lära sig själv, ge den all data och den datorkraft vi kan köpa, och sedan se vad som händer. Det är som att plantera en främmande växt och vänta på att se vad den kommer att bära. ” AI:s förmågor studeras ofta efter att de har dykt upp.

7. Förmodligen är vi sannolikt redan i en värld av AI-simulering – Jag skulle bli väldigt förvånad om det här verkligen var den verkliga världen, säger Jampolski. ” För i framtiden kommer civilisationen att köra miljarder simuleringar om detta ögonblick - det ögonblick då super-AI dyker upp. Det är troligt att vi redan lever i en sådan simulering.

8. Pengar kan till och med korrumpera AI-säkerhetsforskare "Om någon gav mig 100 miljoner dollar för att arbeta i ett AI-labb skulle jag förmodligen gå", erkände Yampolsky. ” "Inte för att det är rätt, utan för att det är svårt att inte bli korrumperad inför en så stor belöning." Till och med säkerhetsexperter kan mutas.

Detta är verkligheten för tillfället: AI-system lurar redan forskare, och vi odlar ständigt system som vi inte ens förstår. Ännu värre är att många företag sätter dessa otestade modeller direkt i praktiken. Om vi inte ens kan kontrollera vad vi har skapat, borde vi inte åtminstone verifiera det innan vi distribuerar?