Na corrida para lançar sistemas antes dos competidores, players da indústria de IA assumem riscos
Após ganhar o Prêmio Turing 2024 com Richard Sutton, o pesquisador Andrew Barto alertou para a implantação insegura de modelos de inteligência artificial (IA). De acordo com o especialista, na pressa de lançar novos sistemas de IA e vencer a corrida competitiva, players da indústria estão entregando modelos ao público sem testá-los exaustivamente, o que coloca em risco a segurança dos usuários.
“Lançar software para milhões de pessoas sem salvaguardas não é uma boa prática de engenharia”, disse Barto ao The Financial Times. “As práticas de engenharia evoluíram para tentar mitigar as consequências negativas da tecnologia, e não vejo isso sendo praticado pelas empresas que estão desenvolvendo [sistemas de IA].”
O especialista diz que as empresas estão lançando IAs suscetíveis a erros. Ele ainda comparou o desenvolvimento da IA com a construção de uma ponte, onde o teste é feito com as pessoas que passam pela ponte após o término da obra. Os chatbots, por exemplo, estão sendo lançados antes de treinamentos exaustivos e de testes finais, o esperado do processo de ensino de IAs.
A Futago se preocupa com a segurança de seus sistemas de IA!
A Futago desenvolve tecnologias de última geração, como agentes de inteligência artificial. Uma das aplicações construídas é um Assistente de Manutenção. Esses sistemas são treinados para auxiliar profissionais na busca de informações específicas da planta industrial, na elaboração de planos de manutenção e no suporte a diagnósticos, reparos e testes.
Para aumentar a precisão das respostas, o Assistente de Manutenção usa como material de treinamento os próprios documentos internos da empresa. A ação evita que dados de terceiros que não se aplicam ao contexto daquela planta industrial misturem-se inadvertidamente.
“Nosso Assistente de Manutenção atua para acelerar o acesso ao conhecimento sobre rotinas de manutenção existentes em cada cliente, reduzindo o MTTR e potencialmente aumentando a disponibilidade de cada linha”, comenta Luiz Bernardes, CEO e cofundador da Futago.
Conheça todas as nossas soluções
Além do Assistente de Manutenção, nosso time de especialistas em construir gêmeos digitais oferece inúmeras soluções personalizadas para elevar o seu negócio ao próximo nível e pode ajudar na identificação das áreas-chave onde essa tecnologia pode ser implantada na sua empresa.
Entre em contato conosco e descubra como os gêmeos digitais podem fazer parte da sua estratégia empresarial!
