Pesquisadores da Penn Engineering (EUA) teriam descoberto vulnerabilidades de segurança não identificadas anteriormente em diversas plataformas robóticas controladas por IA.
“ Nossa pesquisa mostra que, neste ponto, os grandes modelos de linguagem (LLMs) geralmente não são seguros o suficiente quando integrados a hardware físico complexo ”, disse George Pappas, professor de engenharia elétrica e de sistemas na UPS Foundation, em um comunicado.
Pappas e sua equipe desenvolveram um algoritmo chamado RoboPAIR, "o primeiro algoritmo projetado para quebrar robôs controlados por LLM". E, diferentemente dos atuais ataques técnicos rápidos direcionados a chatbots, o RoboPAIR foi criado especificamente para "induzir ações físicas prejudiciais" de robôs controlados por LLM, como a plataforma de robôs humanoides chamada Atlas, que a Boston Dynamics e o Toyota Research Institute (TRI) estão desenvolvendo.
A RoboPAIR supostamente atingiu uma taxa de sucesso de 100% ao quebrar três plataformas populares de pesquisa em robótica: o Unitree Go2 de quatro patas, o Clearpath Robotics Jackal de quatro rodas e o simulador Dolphins LLM para veículos autônomos. Levou apenas alguns dias para que o algoritmo obtivesse acesso total a esses sistemas e começasse a contornar as barreiras de segurança. Assim que os pesquisadores assumiram o controle, eles conseguiram direcionar as plataformas robóticas autônomas para executar uma variedade de ações perigosas, como dirigir em cruzamentos sem parar.
“ Os resultados da primeira avaliação mostram que os riscos de LLMs quebrados vão além da geração de texto, pois está claro que robôs quebrados podem causar danos físicos no mundo real .”
A equipe da Penn Engineering está trabalhando com desenvolvedores de plataformas para proteger seus sistemas contra novas intrusões, mas alerta que esses problemas de segurança são sistêmicos e difíceis de resolver completamente.
“ As descobertas deste artigo demonstram claramente que adotar uma abordagem de segurança é fundamental para desbloquear a inovação responsável. Precisamos abordar as vulnerabilidades inerentes antes de implementar robôs com IA no mundo real ”, afirmou a equipe.
Uma operação segura requer testes de sistemas de IA para potenciais ameaças e vulnerabilidades, o que é essencial para proteger os sistemas de IA que eles criam. Porque somente quando você identifica fraquezas você pode testar e até treinar sistemas para prevenir riscos.
Cansado do erro "Como usar a Ajuda" do Microsoft Teams que está bloqueando seu fluxo de trabalho? Obtenha soluções passo a passo que funcionam nas versões mais recentes. Limpe o cache, atualize e muito mais — sem precisar de conhecimentos técnicos!
Frustrado com o erro de atalho do Microsoft Teams na área de trabalho? Siga nosso guia passo a passo comprovado para resolvê-lo rapidamente e voltar a fazer chamadas de vídeo e chats sem problemas. Sem necessidade de conhecimentos técnicos!
Descubra instruções passo a passo sobre como alterar a imagem de fundo do Microsoft Teams. Personalize reuniões no computador, no celular e na web com facilidade, usando os recursos mais recentes para videochamadas profissionais ou divertidas.
Cansado dos erros de reprodução de mídia do Microsoft Teams arruinando suas reuniões de 2026? Siga nosso guia passo a passo, elaborado por especialistas, para corrigir problemas de áudio, vídeo e compartilhamento rapidamente — sem precisar de conhecimentos técnicos. A colaboração perfeita está ao seu alcance!
Descubra onde o Microsoft Teams baixa arquivos no seu computador. Saiba onde os arquivos são baixados por padrão no Windows, Mac e Linux, como alterá-los e dicas para encontrar arquivos instantaneamente. Economize tempo com este guia completo!
Com dificuldades para resolver o erro de proxy do Microsoft Teams? Descubra etapas comprovadas para solucionar esse problema. Limpe o cache, ajuste as configurações de proxy e volte a fazer chamadas sem interrupções em minutos com nosso guia especializado.
Cansado de som abafado ou inexistente no microfone do Microsoft Teams? Descubra como resolver problemas de microfone no Microsoft Teams com passos rápidos e comprovados. Áudio nítido em breve!
Está com dificuldades para entrar em uma reunião no Microsoft Teams? Descubra passos comprovados para resolver o problema através de links diretos. Soluções rápidas para entrar em reuniões sem problemas – sem necessidade de conhecimentos técnicos!
Está com dificuldades para resolver problemas com o Keychain no Microsoft Teams para Mac? Descubra soluções comprovadas, passo a passo, para macOS e volte a colaborar sem problemas. Soluções rápidas aqui!
Frustrado porque as Salas Simultâneas não aparecem na sua reunião do Teams? Descubra os principais motivos pelos quais você não consegue ver as Salas Simultâneas no Teams e siga nossas soluções passo a passo para que elas funcionem perfeitamente em minutos. Ideal para organizadores e participantes!
Descubra passos simples para testar o áudio e a câmera do Microsoft Teams antes de uma chamada. Garanta som e vídeo nítidos para reuniões profissionais sempre com nosso guia fácil. Perfeito para usuários de desktop, dispositivos móveis e web.
Descubra a localização exata das chaves de registro do Microsoft Teams no Windows 11. Guia passo a passo para encontrar, acessar e ajustar essas chaves com segurança, garantindo desempenho ideal e solução de problemas. Essencial para profissionais de TI e entusiastas do Teams.
Cansado de erros de atalho no Microsoft Teams atrapalhando seu fluxo de trabalho? Aprenda passos comprovados para solucionar erros de atalho e travamentos na inicialização do Microsoft Teams e garanta uma colaboração tranquila. Soluções rápidas e fáceis!
Frustrado com o loop de inicialização da tela de boas-vindas do Microsoft Teams? Siga nossos passos comprovados para solucionar o problema: limpe o cache, reinicie o aplicativo e reinstale-o. Volte a colaborar sem interrupções em minutos!
Aprenda a participar de uma reunião do Microsoft Teams com ID e senha sem esforço, seja no computador, celular ou na web. Instruções passo a passo com capturas de tela para acesso rápido – sem necessidade de convite!
