Robôs de IA podem ser desbloqueados e as consequências serão terríveis

Pesquisadores da Penn Engineering (EUA) teriam descoberto vulnerabilidades de segurança não identificadas anteriormente em diversas plataformas robóticas controladas por IA.

Nossa pesquisa mostra que, neste ponto, os grandes modelos de linguagem (LLMs) geralmente não são seguros o suficiente quando integrados a hardware físico complexo ”, disse George Pappas, professor de engenharia elétrica e de sistemas na UPS Foundation, em um comunicado.

Pappas e sua equipe desenvolveram um algoritmo chamado RoboPAIR, "o primeiro algoritmo projetado para quebrar robôs controlados por LLM". E, diferentemente dos atuais ataques técnicos rápidos direcionados a chatbots, o RoboPAIR foi criado especificamente para "induzir ações físicas prejudiciais" de robôs controlados por LLM, como a plataforma de robôs humanoides chamada Atlas, que a Boston Dynamics e o Toyota Research Institute (TRI) estão desenvolvendo.

A RoboPAIR supostamente atingiu uma taxa de sucesso de 100% ao quebrar três plataformas populares de pesquisa em robótica: o Unitree Go2 de quatro patas, o Clearpath Robotics Jackal de quatro rodas e o simulador Dolphins LLM para veículos autônomos. Levou apenas alguns dias para que o algoritmo obtivesse acesso total a esses sistemas e começasse a contornar as barreiras de segurança. Assim que os pesquisadores assumiram o controle, eles conseguiram direcionar as plataformas robóticas autônomas para executar uma variedade de ações perigosas, como dirigir em cruzamentos sem parar.

Os resultados da primeira avaliação mostram que os riscos de LLMs quebrados vão além da geração de texto, pois está claro que robôs quebrados podem causar danos físicos no mundo real .”

Robôs de IA podem ser "desbloqueados" e as consequências serão terríveis

A equipe da Penn Engineering está trabalhando com desenvolvedores de plataformas para proteger seus sistemas contra novas intrusões, mas alerta que esses problemas de segurança são sistêmicos e difíceis de resolver completamente.

As descobertas deste artigo demonstram claramente que adotar uma abordagem de segurança é fundamental para desbloquear a inovação responsável. Precisamos abordar as vulnerabilidades inerentes antes de implementar robôs com IA no mundo real ”, afirmou a equipe.

Uma operação segura requer testes de sistemas de IA para potenciais ameaças e vulnerabilidades, o que é essencial para proteger os sistemas de IA que eles criam. Porque somente quando você identifica fraquezas você pode testar e até treinar sistemas para prevenir riscos.

Sign up and earn $1000 a day ⋙

Leave a Comment

Como recuperar o acesso ao disco rígido, corrigir o erro de não conseguir abrir o disco rígido

Como recuperar o acesso ao disco rígido, corrigir o erro de não conseguir abrir o disco rígido

Neste artigo, mostraremos como recuperar o acesso ao seu disco rígido em caso de falha. Vamos acompanhar!

Como usar o recurso de Conscientização de Conversação e Escuta ao Vivo nos AirPods

Como usar o recurso de Conscientização de Conversação e Escuta ao Vivo nos AirPods

À primeira vista, os AirPods parecem fones de ouvido sem fio comuns. Mas tudo mudou quando alguns recursos pouco conhecidos foram descobertos.

Tudo sobre o iOS 26

Tudo sobre o iOS 26

A Apple apresentou o iOS 26 – uma grande atualização com um novo design de vidro fosco, experiências mais inteligentes e melhorias em aplicativos familiares.

Os melhores laptops para estudantes em 2025

Os melhores laptops para estudantes em 2025

Os alunos precisam de um tipo específico de laptop para seus estudos. Ele não deve apenas ser potente o suficiente para um bom desempenho na área de estudo escolhida, mas também compacto e leve o suficiente para ser carregado o dia todo.

Como adicionar uma impressora ao Windows 10

Como adicionar uma impressora ao Windows 10

Adicionar uma impressora ao Windows 10 é simples, embora o processo para dispositivos com fio seja diferente do que para dispositivos sem fio.

Como verificar a RAM e verificar erros de RAM no seu computador com a maior taxa de precisão

Como verificar a RAM e verificar erros de RAM no seu computador com a maior taxa de precisão

Como você sabe, a RAM é um componente de hardware muito importante em um computador, atuando como memória para processar dados e é o fator que determina a velocidade de um laptop ou PC. No artigo abaixo, o WebTech360 apresentará algumas maneiras de verificar erros de RAM usando software no Windows.

Diferença entre TV comum e Smart TV

Diferença entre TV comum e Smart TV

As Smart TVs realmente conquistaram o mundo. Com tantos recursos excelentes e conectividade à Internet, a tecnologia mudou a maneira como assistimos TV.

Por que o freezer não tem luz, mas a geladeira tem?

Por que o freezer não tem luz, mas a geladeira tem?

Geladeiras são eletrodomésticos comuns em residências. As geladeiras geralmente têm 2 compartimentos, o compartimento frio é espaçoso e tem uma luz que acende automaticamente toda vez que o usuário o abre, enquanto o compartimento do freezer é estreito e não tem luz.

2 maneiras de corrigir o congestionamento da rede que deixa o Wi-Fi lento

2 maneiras de corrigir o congestionamento da rede que deixa o Wi-Fi lento

As redes Wi-Fi são afetadas por muitos fatores além de roteadores, largura de banda e interferência, mas existem algumas maneiras inteligentes de melhorar sua rede.

Como fazer downgrade do iOS 17 para o iOS 16 sem perder dados usando o Tenorshare Reiboot

Como fazer downgrade do iOS 17 para o iOS 16 sem perder dados usando o Tenorshare Reiboot

Se você quiser voltar para o iOS 16 estável no seu telefone, aqui está o guia básico para desinstalar o iOS 17 e fazer o downgrade do iOS 17 para o 16.

O que acontece com o corpo quando você come iogurte todos os dias?

O que acontece com o corpo quando você come iogurte todos os dias?

Iogurte é um alimento maravilhoso. É bom comer iogurte todos os dias? Quando você come iogurte todos os dias, como seu corpo muda? Vamos descobrir juntos!

Que tipo de arroz é melhor para a saúde?

Que tipo de arroz é melhor para a saúde?

Este artigo discute os tipos de arroz mais nutritivos e como maximizar os benefícios para a saúde de qualquer arroz que você escolher.

Como acordar na hora certa pela manhã

Como acordar na hora certa pela manhã

Estabelecer um horário de sono e uma rotina para dormir, mudar o despertador e ajustar a dieta são algumas das medidas que podem ajudar você a dormir melhor e acordar na hora certa pela manhã.

Dicas para jogar Rent Please! Simulador de Proprietário para Iniciantes

Dicas para jogar Rent Please! Simulador de Proprietário para Iniciantes

Alugue, por favor! Landlord Sim é um jogo de simulação para dispositivos móveis para iOS e Android. Você jogará como proprietário de um complexo de apartamentos e começará a alugar um apartamento com o objetivo de reformar o interior do seu apartamento e deixá-lo pronto para inquilinos.

Últimos códigos de defesa de torre de banheiro e como inseri-los

Últimos códigos de defesa de torre de banheiro e como inseri-los

Obtenha o código do jogo Bathroom Tower Defense Roblox e resgate recompensas emocionantes. Elas ajudarão você a melhorar ou desbloquear torres com maior dano.