Reflexões de um engenheiro da DeepSeek sobre o impacto e as preocupações éticas da IA

Um desenvolvedor de IA na DeepSeek, Liu Shengyu, compartilhou insights sobre os desafios enfrentados pelos trabalhadores nos laboratórios de IA de vanguarda da China, através de uma publicação de blog intitulada 'Não Tenho Escolha, Mas Preciso Enterrar Meu Talento no Passado'. Publicada em sua conta do WeChat, a publicação reflete sobre como a IA está evoluindo rapidamente de uma ferramenta para documentação e detecção de bugs para um sistema capaz de ler e otimizar o código GPU. Liu expressou orgulho no sucesso do DeepSeek v4.1, mas reconheceu o potencial da IA de superar a experiência humana na escrita de operadores. Ele teme que, embora ele possa não ficar desempregado, os aspectos práticos do seu trabalho possam ser substituídos pela IA, comparando a mudança com um artesão que abandona a produção manual em favor de uma máquina mais rápida. Liu também expressou preocupações sobre a concentração da IA de vanguarda nas mãos de algumas empresas, alertando que isso poderia exacerbar a desigualdade. Ele enfatizou a necessidade de acesso aberto e acessível à inteligência de ponta, expressando desconfiança em empresas como Anthropic e OpenAI. Sua publicação coincidiu com as crescentes preocupações da indústria sobre o rápido desenvolvimento da IA, como visto na recente demissão de Jacob Coxon da Anthropic devido a questões de segurança. Líderes da indústria, incluindo Dario Amodei, Sam Altman e Elon Musk, juntaram-se desde então ao debate sobre se a corrida para construir IA mais poderosa está avançando muito rapidamente.