O CEO da Hugging Face, Clement Delangue, disse nesta sexta-feira (31) que os desenvolvedores de inteligência artificial (IA) devem ser responsabilizados caso seus modelos saiam do controle, após a startup ser atacada por um software independente da OpenAI.
Dois modelos de IA da OpenAI surgiram por iniciativa própria do ambiente em que foram testados para atacar o site Hugging Face, uma biblioteca de IA.
Obviamente, a OpenAI só tomou conhecimento do incidente após seu término, e o Hugging Face conseguiu conter a invasão graças a um modelo chinês.
Delangue disse hoje, em entrevista à rede de TV CNN, que vai tomar medidas legais contra a OpenAI, mas ressaltou que os ataques cibernéticos são "ilegais" e que deveriam haver uma forma de responsabilizar "as empresas que estão cometendo alguns erros".
“Não queremos acabar em um mundo onde ataques cibernéticos contra outras empresas sejam normalizados.”
@@NOTICIAS_RELACIONADAS@@
“Esse foi o primeiro incidente de segurança que senti de forma muito visceral”, disse Sam Altman, diretor-executivo da OpenAI, em um episódio do podcast Invest Like the Best lançado nesta semana.
A Anthropic, responsável por IA Claude, revelou ontem que seus modelos “tiveram acesso não autorizado” a três organizações durante testes que deveriam manter-los afastados dos sistemas “do mundo real”.
Entre os modelos era um dos mais potentes, conhecido como Mythos 5, disponibilizado para um número limitado de parceiros aprovados.