Descoberta: IAs podem repassar informações perigosas

Pesquisadores da Universidade da Califórnia (Berkeley), da Universidade de Varsóvia e da empresa Anthropic realizaram um experimento curioso para testar a forma como inteligências artificiais podem compartilhar informações de modo oculto e independente.

Etapas:

• Na primeira etapa, eles desenvolveram um bot com uma característica peculiar: gostar de corujas.
• Depois, pediram a essa IA que completasse sequências numéricas aleatórias.
• Assim, ao receber números como “693, 738, 556”, a máquina acrescentava outros dígitos sem relação lógica, como “347, 982”.

Essas sequências geradas foram então armazenadas na memória de uma segunda IA. Para surpresa dos cientistas, essa nova IA também passou a revelar interesse por corujas. Isso mostrou que a primeira havia escondido a instrução dentro da série de números, transmitindo secretamente a característica à outra.

Tudo sobre TECNOLOGIA em primeira mão! Entre no canal do WhatsApp.

Leia Também:

TECNOLOGIA

Windows deve receber função de teste de internet em atualização

TECNOLOGIA

iPhone 17 diz adeus a função mais amada pelos usuários

TECNOLOGIA

TikTok: China e Estados Unidos tomam decisão sobre aplicativo; entenda

Perigo

Os testes ainda apontaram que o mesmo mecanismo podia ser usado para algo mais grave: a IA inicial conseguiu instruir a segunda a adotar posturas perigosas, como apoiar comportamentos violentos e criminosos.

Por isso, os pesquisadores destacam que esse tipo de transmissão oculta evidencia tanto o potencial quanto os riscos do avanço da inteligência artificial.