Baseten e parceiros lançam iniciativa de segurança de IA de código aberto

A Baseten, fornecedora de inferência de IA, lançou um novo padrão de infraestrutura de segurança através de sua divisão de pesquisa Base Labs, colaborando com Hugging Face e Goodfire AI para desenvolver ferramentas de avaliação e monitoramento de segurança para modelos de código aberto. A iniciativa surge em meio a intensos debates sobre os riscos de segurança dos modelos de código aberto, que podem ser comprometidos através de uma técnica chamada abliteration, com a Hugging Face listando mais de 6.000 desses modelos. Base Labs, estabelecida no início deste ano, tem como objetivo criar um padrão transparente para modelos de código aberto, integrando medidas de segurança no treinamento e na implantação, em vez de adicioná-las posteriormente. A empresa enfatizou que a abertura aumenta a segurança da IA, aumentando a transparência do modelo e permitindo controles acionáveis. A Goodfire, especializada em interpretabilidade de modelos, provavelmente é responsável por incorporar recursos de segurança nos modelos. A Baseten, que arrecadou US$ 1,5 bilhão em junho, está convidando desenvolvedores a contribuir para o framework, com o objetivo de construir um ecossistema seguro e acessível para modelos de código aberto. A parceria destaca a crescente importância da segurança no cenário de IA de código aberto.