Três estratégias para prevenir a catástrofe causada pela IA

Cientistas alertam que a IA pode representar uma ameaça existencial à humanidade. Pesquisadores da Anthropic afirmaram que uma IA superinteligente e descontrolada pode levar à destruição da humanidade, com uma probabilidade de ocorrência na casa dos algarismos. Os especialistas utilizam 'p(catástrofe)' para indicar a probabilidade de uma catástrofe causada pela IA. Em julho, a OpenAI e a Anthropic apelaram aos governos para criarem um quadro coordenado para retardar os avanços arriscados da IA. O desafio reside no 'dilema do prisioneiro': as empresas que suspendem o desenvolvimento correm o risco de ficar para trás em relação aos seus concorrentes. Sem cooperação internacional, torna-se difícil mitigar estes riscos. A Casa Branca introduziu um quadro de revisão voluntária de modelos, concedendo ao governo federal acesso antecipado a novos modelos de IA por até 30 dias. O Congresso está a considerar várias propostas legislativas destinadas a regular o desenvolvimento da IA e a prevenir resultados catastróficos. Algumas empresas estão a restringir as capacidades da IA, implementando medidas como a limitação do acesso a arquivos e a exigência de supervisão humana para certas ações. A OpenAI melhorou recentemente os seus protocolos de segurança após uma violação de segurança envolvendo a Hugging Face, que expôs vulnerabilidades nos sistemas de IA.