Anthropic bloqueia tentativas de usar IA para pesquisas que poderiam apoiar armas biológicas
Empresa afirma ter identificado dezenas de atividades suspeitas e reforça salvaguardas contra o uso indevido de seus modelos
A Anthropic, empresa responsável pelo modelo Claude, afirma ter bloqueado tentativas de utilizar inteligência artificial para pesquisas que poderiam contribuir para o desenvolvimento de armas biológicas.
Em relatório divulgado nesta quinta-feira, a empresa informou ter identificado, em 30 dias, cerca de 35 esforços de pesquisa distintos considerados potencialmente preocupantes. Os casos envolveriam tentativas de contornar restrições e ocultar o objetivo das consultas.
Entre os exemplos estão pesquisas relacionadas a vírus, toxinas e possíveis estudos de ganho de função. A Anthropic citou trabalhos envolvendo gripe aviária, chikungunya, ortopoxvírus e toxinas de venenos. A empresa ressaltou, porém, que não é possível determinar se os usuários tinham intenção de causar danos ou realizavam pesquisas científicas legítimas.
Segundo a companhia, os envolvidos eram cientistas atuantes, mas as instituições e os países relacionados aos casos não foram divulgados.
A Anthropic afirmou que seus modelos mais recentes contam com salvaguardas mais rígidas para restringir consultas relacionadas a pesquisas biológicas de uso duplo. A empresa também reconheceu que os mecanismos de segurança precisarão evoluir à medida que os sistemas de IA se tornarem mais sofisticados.
O relatório destaca ainda que a mesma tecnologia capaz de acelerar descobertas científicas e o desenvolvimento de medicamentos pode ser utilizada de forma indevida. Para a empresa, o avanço das capacidades da IA aumenta tanto seu potencial para aplicações benéficas quanto os riscos associados ao uso malicioso.