Anthropic libera modelo avançado de IA com restrições de segurança

A empresa americana Anthropic anunciou nesta terça-feira a liberação pública de uma versão do Mythos, sua linha mais avançada de inteligência artificial. O lançamento ocorre meses após a companhia alertar sobre o potencial da tecnologia para identificar e explorar vulnerabilidades em sistemas críticos, o que levou à adoção de mecanismos adicionais de proteção.

Foto: Bloomberg

Anthropic

Batizado de Fable 5, o novo modelo é o primeiro da família Mythos a ser disponibilizado ao público. A ferramenta foi lançada com restrições para consultas relacionadas à segurança cibernética e a riscos biológicos. Segundo a Anthropic, quando usuários fizerem perguntas nessas áreas, o chatbot Claude direcionará as respostas para outro sistema da empresa, chamado Opus 4.8.

• Participe do nosso grupo de WhatsApp
• Participe do nosso grupo de Telegram
• Confira os jogos e classificação dos principais campeonatos

Paralelamente, a companhia também apresentou uma versão do modelo com menos limitações, denominada Mythos 5. O acesso, porém, será restrito a organizações participantes do Project Glasswing, iniciativa voltada para grupos autorizados a utilizar recursos avançados de segurança digital.

A estratégia adotada pela Anthropic chama atenção no setor de inteligência artificial. Em abril, quando apresentou a linha Mythos, a empresa optou por restringir o acesso devido às preocupações relacionadas à capacidade do sistema de localizar falhas em sistemas operacionais e navegadores amplamente utilizados.

Apesar das precauções, a companhia segue investindo em aplicações voltadas para áreas consideradas estratégicas, como programação, finanças e segurança digital. De acordo com Dianne Penn, responsável pela gestão de projetos da divisão de pesquisa da Anthropic, a prioridade foi disponibilizar rapidamente as funcionalidades voltadas a usos gerais, enquanto o trabalho de avaliação dos recursos mais sensíveis continua em andamento.

A empresa afirma que o Fable 5 apresenta desempenho superior em programação e na resolução de problemas complexos de longa duração. Em testes realizados pela processadora de pagamentos Stripe, o modelo teria concluído em um único dia uma tarefa de engenharia de software que demandaria cerca de dois meses de trabalho de uma equipe especializada.

Outro resultado divulgado pela Anthropic envolve uma hipótese gerada pelo Mythos sobre o funcionamento de uma proteína da bactéria Escherichia coli. Segundo a empresa, a proposta foi posteriormente confirmada por um estudo científico desenvolvido por um laboratório que investigava o mesmo tema.

Antes do lançamento, a companhia promoveu uma série de testes internos para avaliar a resistência das salvaguardas implementadas no sistema. Durante mais de mil horas de análises conduzidas por equipes especializadas, não foram identificados métodos universais capazes de contornar as proteções do modelo.

Na última semana, a Anthropic também ampliou o número de organizações com acesso ao Mythos, incorporando mais 150 instituições ao programa. Com isso, cerca de 200 grupos já utilizam a tecnologia em ambientes controlados.

Fonte: O Globo