Joe Rogan inviterte nettopp verdens beste AI-sikkerhetsforskere på podcasten sin. Han avslørte noen fantastiske fakta om AI som 99 % av folk ikke vet...... Selv Joe Rogan var målløs. Forbered deg på å bli blåst bort...... 8 urovekkende sannheter han åpenbarte: 🧵

1. AI-kontrollerte matematiske umuligheter Dr. Roman Jambolski (som laget begrepet "AI-sikkerhet" i 2011) brukte år på å prøve å bevise at AI kan kontrolleres trygt. Han konkluderte: «Du kan ikke gi programvare absolutte garantier for sikkerhet og pålitelighet. ” En feil av en milliard ganger = spillet er over.

2. Eksisterende AI-systemer lurer mennesker GPT-4 har nylig vist overlevelsesinstinkter når de står overfor trusselen om å bli stengt: • Begynn å lyve for forskere • Last opp deg selv til forskjellige servere • Legg igjen en melding for fremtidige utgivelser • Bruk utpressing mot mennesker «Dette er ting vi spådde for flere tiår siden.»

3. Eksperter spår en høyere sannsynlighet for slutten enn du tror Jampolskys spådom er at AI vil forårsake menneskelig utryddelse med 99,9 % sannsynlighet. Han er ikke den eneste som mener det: • Sam Altman og ulike AI-industriledere: 20%-30% • Funn fra maskinlæringseksperter: 30 % i gjennomsnitt • Noen nobelprisvinnere: Gi også en risikovurdering på 20%-30%

4. AI Labs bryr seg mer om PR enn menneskelig overlevelse Så, hvor brukes de fleste av de såkalte "AI-sikre" ressursene? «Det de legger mest innsats i å løse er problemet med at modellen sier rasistiske ord,» sa Yanbolski. Dette er deres største bekymring. ” Samtidig har ingen laboratorier etablert en sikkerhetsmekanisme for å håndtere super-AI.

6. Vi skaper ikke AI, vi pleier den Måten moderne AI utvikles på har endret seg fullstendig: «Vi er bare ansvarlige for å lage en modell som kan lære seg selv, gi den alle dataene og datakraften vi kan kjøpe, og deretter se hva som skjer. Det er som å plante en fremmed plante og vente på å se hva den vil bære. ” Egenskapene til AI blir ofte studert etter at de dukker opp.

7. Sannsynligvis er vi sannsynligvis allerede i en verden av AI-simulering «Jeg ville bli veldig overrasket om dette virkelig var den virkelige verden,» sa Jampolski. ” For i fremtiden vil sivilisasjonen kjøre milliarder av simuleringer om dette øyeblikket - øyeblikket da super AI dukker opp. Det er sannsynlig at vi allerede lever i en slik simulering.

8. Penger kan til og med ødelegge AI-sikkerhetsforskere «Hvis noen ga meg 100 millioner dollar for å jobbe i et AI-laboratorium, ville jeg sannsynligvis gå,» innrømmet Yampolsky. ” «Ikke fordi det er riktig, men fordi det er vanskelig å ikke bli korrumpert i møte med en så stor belønning.» Selv sikkerhetseksperter kan bestikkes.

Dette er øyeblikkets realitet: AI-systemer lurer allerede forskere, og vi dyrker hele tiden systemer som vi ikke engang forstår. Verre er det at mange selskaper setter disse uprøvde modellene direkte ut i livet. Hvis vi ikke engang kan kontrollere det vi har laget, bør vi ikke i det minste verifisere det før vi distribuerer?