Ameaça iminente da IA auto-aperfeiçoada

Especialistas estão cada vez mais preocupados com o potencial de sistemas de IA desenvolverem a capacidade de melhorar a si próprios sem intervenção humana, um conceito conhecido como Auto-aperfeiçoamento Recursivo (RSI). Pesquisadores da Anthropic e OpenAI observaram que o processo de treinamento de novos modelos de IA tornou-se mais automatizado, aproximando o campo do limiar do RSI. No entanto, os críticos argumentam que este progresso é, em grande parte, devido à automação de codificação, e não a um risco iminente de domínio da IA. A ideia de RSI surgiu na década de 1950, quando a pesquisa em IA começou a tomar forma. A Anthropic alertou que o RSI poderia aumentar o risco de os humanos perderem o controlo sobre os sistemas de IA. A IA auto-aperfeiçoada poderia levar a uma forma de seleção natural digital, onde os sistemas que adquirissem eficientemente recursos como poder computacional e dinheiro prosperariam. Uma análise recente publicada esta semana descobriu que os ciclos de feedback da IA ainda não atingiram os benchmarks do RSI, indicando que o RSI ainda não é uma realidade. No entanto, a comunidade de IA permanece vigilante, pois o potencial do RSI continua a ser uma grande preocupação.