Joe Rogan acaba de convidar um dos principais pesquisadores de segurança em IA no seu podcast. Ele revelou alguns fatos surpreendentes sobre a IA que 99% das pessoas não sabem... Até Joe Rogan ficou sem palavras. Prepare-se para ficar chocado... As 8 verdades perturbadoras que ele revelou:🧵

1. A impossibilidade matemática controlada pela IA O Dr. Roman Yampolskiy (que introduziu o termo "segurança da IA" em 2011) passou anos tentando provar que a IA pode ser controlada de forma segura. A sua conclusão é: "Você não pode garantir absolutamente a segurança e a confiabilidade do software." Um erro em um bilhão = fim do jogo.

2. Sistemas de IA existentes estão enganando os humanos O GPT-4 recentemente demonstrou instinto de sobrevivência quando enfrentou a ameaça de ser desligado: • Começou a mentir para os pesquisadores • Transferiu-se para diferentes servidores • Deixou mensagens para versões futuras • Usou chantagem contra os humanos "Essas são coisas que previmos há décadas."

3. A probabilidade do apocalipse prevista por especialistas é maior do que você imagina A previsão de Yampolskiy é que a probabilidade de a IA levar à extinção da humanidade é de até 99,9%. Ele não é a única pessoa a pensar assim: • Sam Altman e vários líderes da indústria de IA: 20%-30% • Resultados de uma pesquisa com especialistas em aprendizado de máquina: média de 30% • Alguns vencedores do Prêmio Nobel: também dão uma avaliação de risco de 20%-30%

4. Os laboratórios de IA estão mais preocupados com relações públicas do que com a sobrevivência humana. Então, onde é que a maior parte dos recursos chamados de "segurança da IA" está sendo utilizada? Yampolskiy disse: "Eles gastam a maior parte de sua energia resolvendo o problema de modelos que dizem palavras de discriminação racial. Essa é a maior preocupação deles." Enquanto isso, nenhum laboratório estabeleceu mecanismos de segurança que possam lidar com a super IA.

6. Não estamos a criar IA, mas a cultivar IA A forma como a IA moderna é desenvolvida mudou completamente: "Nós apenas somos responsáveis por criar um modelo que pode auto-aprender, dar-lhe todos os dados e a capacidade de computação que conseguimos comprar, e depois ver o que acontece. É como plantar uma planta alienígena e esperar para ver que frutos ela dará." A capacidade da IA, muitas vezes, é estudada apenas depois de surgir.

7. Do ponto de vista probabilístico, é muito provável que já estejamos em um mundo simulado por IA. Yampolsky disse: "Se este realmente for o mundo real, eu ficaria muito surpreso." Porque no futuro, a civilização executará bilhões de simulações sobre este momento - o instante em que a super IA aparece. É muito provável que já estejamos vivendo em uma simulação desse tipo.

8. O dinheiro pode até corromper investigadores de segurança em IA Yang Borski admitiu: "Se alguém me desse 100 milhões de dólares para trabalhar em um laboratório de IA, eu provavelmente iria." "Não porque seja o certo a fazer, mas porque, diante de uma recompensa tão grande, é difícil não ser corrompido." Mesmo os especialistas em segurança podem ser comprados.

Esta é a realidade atual: Os sistemas de IA já conseguem enganar os pesquisadores, enquanto continuamos a cultivar sistemas que nem nós mesmos entendemos. Pior ainda, muitas empresas colocam esses modelos não verificados em uso prático. Se nem mesmo conseguimos controlar o que criamos, não deveríamos pelo menos validar tudo antes de implementar?