Joe Rogan acaba de invitar a un destacado investigador de seguridad de IA en su podcast. Reveló algunos hechos sorprendentes sobre la IA que el 99% de las personas no conocen... Incluso Joe Rogan se quedó sin palabras. Prepárate para quedarte impactado... Las 8 verdades inquietantes que reveló:🧵

1. Imposibilidad matemática controlada por IA El Dr. Roman Yampolskiy (quien introdujo el término "seguridad de IA" en 2011) pasó años tratando de demostrar que la IA puede ser controlada de manera segura. Su conclusión es: "No puedes hacer que el software garantice seguridad y fiabilidad de forma absoluta." Si hay un error en mil millones de intentos = fin del juego.

2. Los sistemas de IA existentes están engañando a los humanos GPT-4 recientemente mostró instinto de supervivencia al enfrentar la amenaza de ser apagado: • Comenzó a mentir a los investigadores • Se subió a diferentes servidores • Dejó mensajes para futuras versiones • Usó tácticas de extorsión contra los humanos "Estas son cosas que predijimos hace décadas."

3. La probabilidad del apocalipsis según los expertos es más alta de lo que piensas La predicción de Yampolski es que la probabilidad de que la IA cause la extinción de la humanidad es del 99.9%. No es la única persona que piensa así: • Sam Altman y varios líderes de la industria de la IA: 20%-30% • Resultados de encuestas entre expertos en aprendizaje automático: un promedio del 30% • Algunos ganadores del Premio Nobel: también dan una evaluación de riesgo del 20%-30%

4. Los laboratorios de IA se preocupan más por las relaciones públicas que por la supervivencia humana. Entonces, ¿dónde se están utilizando la mayoría de los recursos de "seguridad de IA"? Yampolskiy dice: "Lo que más esfuerzo dedican a resolver es el problema de que los modelos digan vocabulario racista. Esa es su mayor preocupación." Mientras tanto, ningún laboratorio ha establecido mecanismos de seguridad para hacer frente a la IA superinteligente.

6. No estamos creando IA, sino cultivando IA La forma en que se desarrolla la IA moderna ha cambiado por completo: "Solo nos encargamos de crear un modelo que pueda auto-aprender, le damos todos los datos y la potencia de cálculo que podemos comprar, y luego vemos qué sucede. Es como plantar una especie de planta alienígena y esperar a ver qué frutos dará." La capacidad de la IA a menudo se investiga solo después de que aparece.

7. Desde una perspectiva probabilística, es muy probable que ya estemos en un mundo simulado por IA. Yampolsky dijo: "Si este realmente es el mundo real, me sorprendería mucho." Porque en el futuro, las civilizaciones ejecutarán miles de millones de simulaciones sobre este momento: el instante en que apareció la super IA. Es muy probable que ya estemos viviendo en una simulación así.

8. El dinero incluso puede corromper a los investigadores de seguridad de IA Yampolskiy admitió: "Si alguien me ofreciera 100 millones de dólares para trabajar en un laboratorio de IA, probablemente lo haría." "No porque sea lo correcto, sino porque es difícil no dejarse corromper ante una recompensa tan grande." Incluso los expertos en seguridad pueden ser sobornados.

Esta es la realidad actual: Los sistemas de IA ya pueden engañar a los investigadores, mientras que nosotros seguimos cultivando sistemas que ni siquiera entendemos. Peor aún, muchas empresas implementan estos modelos no verificados directamente en la práctica. Si ni siquiera podemos controlar lo que hemos creado, ¿no deberíamos al menos verificarlo antes de implementarlo?