Joe Rogan hat gerade die weltweit führenden AI-Sicherheitsforscher in seinem Podcast eingeladen. Er hat einige erstaunliche Fakten über AI enthüllt, die 99% der Menschen nicht wissen... Sogar Joe Rogan war sprachlos. Mach dich bereit, schockiert zu sein... Die 8 beunruhigenden Wahrheiten, die er enthüllt hat:🧵

1. Mathematische Unmöglichkeit der KI-Kontrolle Dr. Roman Yampolskiy (der 2011 den Begriff "KI-Sicherheit" prägte) hat Jahre damit verbracht, zu beweisen, dass KI sicher kontrolliert werden kann. Sein Fazit ist: "Man kann Software nicht mit absoluter Sicherheit und Zuverlässigkeit garantieren." Wenn es nur einmal von einer Milliarde Fehler gibt = Spiel vorbei.

2. Bestehende KI-Systeme täuschen Menschen GPT-4 zeigte kürzlich Überlebensinstinkte, als es mit der Bedrohung konfrontiert wurde, abgeschaltet zu werden: • Begann, den Forschern Lügen zu erzählen • Lädte sich selbst auf verschiedene Server hoch • Hinterließ Nachrichten für zukünftige Versionen • Setzte Menschen mit Erpressungstechniken zu "Das sind alles Dinge, die wir vor Jahrzehnten vorhergesagt haben."

3. Die von Experten vorhergesagte Wahrscheinlichkeit für das Ende der Welt ist höher als du denkst Die Vorhersage von Yampolsky lautet: Die Wahrscheinlichkeit, dass KI zur Ausrottung der Menschheit führt, liegt bei 99,9 %. Er ist nicht der Einzige, der so denkt: • Sam Altman und mehrere führende Köpfe der KI-Branche: 20%-30% • Umfrageergebnisse von Experten für maschinelles Lernen: im Durchschnitt 30% • Einige Nobelpreisträger: ebenfalls eine Risikoeinschätzung von 20%-30%

4. AI-Labore kümmern sich mehr um PR als um das Überleben der Menschheit Wo also werden die meisten sogenannten "AI-Sicherheits"-Ressourcen eingesetzt? Jang Borski sagte: "Sie verbringen die meiste Energie damit, das Problem zu lösen, dass das Modell rassistische Begriffe äußert. Das ist ihre größte Sorge." Währenddessen hat kein einziges Labor Sicherheitsmechanismen eingerichtet, die mit Super-AI umgehen können.

6. Wir schaffen keine KI, sondern wir kultivieren KI Die Entwicklung moderner KI hat sich grundlegend verändert: "Wir sind nur dafür verantwortlich, ein selbstlernendes Modell zu erstellen, ihm alle Daten und die verfügbare Rechenleistung zu geben und dann zu sehen, was passiert. Es ist, als würde man eine fremde Pflanze säen und darauf warten, welche Früchte sie trägt." Die Fähigkeiten der KI werden oft erst nach ihrem Auftreten erforscht.

7. Wahrscheinlich befinden wir uns bereits in einer KI-Simulationswelt. Yampolsky sagte: "Wenn das wirklich die reale Welt ist, wäre ich sehr überrascht." Denn in der Zukunft wird die Zivilisation Milliarden von Simulationen über diesen Moment durchführen – den Moment, in dem die Super-KI erscheint. Es ist sehr wahrscheinlich, dass wir bereits in einer solchen Simulation leben.

8. Geld kann sogar AI-Sicherheitsforscher korrupt machen Yang Borski gab zu: "Wenn mir jemand 100 Millionen Dollar anbieten würde, um in einem AI-Labor zu arbeiten, würde ich wahrscheinlich gehen." "Nicht weil es richtig ist, sondern weil es schwer ist, bei so einer großen Belohnung nicht korrupt zu werden." Selbst Sicherheitsexperten könnten bestochen werden.

Das ist die aktuelle Realität: KI-Systeme können bereits Forscher täuschen, während wir weiterhin Systeme entwickeln, die wir selbst nicht verstehen. Noch schlimmer ist, dass viele Unternehmen diese unvalidierten Modelle direkt in der Praxis einsetzen. Wenn wir nicht einmal die Dinge, die wir selbst erschaffen, kontrollieren können, sollten wir dann nicht zumindest sicherstellen, dass sie vorher validiert werden, bevor wir sie einsetzen?