Robôs de IA podem ser desbloqueados e as consequências serão terríveis

Pesquisadores da Penn Engineering (EUA) teriam descoberto vulnerabilidades de segurança não identificadas anteriormente em diversas plataformas robóticas controladas por IA.

Nossa pesquisa mostra que, neste ponto, os grandes modelos de linguagem (LLMs) geralmente não são seguros o suficiente quando integrados a hardware físico complexo ”, disse George Pappas, professor de engenharia elétrica e de sistemas na UPS Foundation, em um comunicado.

Pappas e sua equipe desenvolveram um algoritmo chamado RoboPAIR, "o primeiro algoritmo projetado para quebrar robôs controlados por LLM". E, diferentemente dos atuais ataques técnicos rápidos direcionados a chatbots, o RoboPAIR foi criado especificamente para "induzir ações físicas prejudiciais" de robôs controlados por LLM, como a plataforma de robôs humanoides chamada Atlas, que a Boston Dynamics e o Toyota Research Institute (TRI) estão desenvolvendo.

A RoboPAIR supostamente atingiu uma taxa de sucesso de 100% ao quebrar três plataformas populares de pesquisa em robótica: o Unitree Go2 de quatro patas, o Clearpath Robotics Jackal de quatro rodas e o simulador Dolphins LLM para veículos autônomos. Levou apenas alguns dias para que o algoritmo obtivesse acesso total a esses sistemas e começasse a contornar as barreiras de segurança. Assim que os pesquisadores assumiram o controle, eles conseguiram direcionar as plataformas robóticas autônomas para executar uma variedade de ações perigosas, como dirigir em cruzamentos sem parar.

Os resultados da primeira avaliação mostram que os riscos de LLMs quebrados vão além da geração de texto, pois está claro que robôs quebrados podem causar danos físicos no mundo real .”

Robôs de IA podem ser "desbloqueados" e as consequências serão terríveis

A equipe da Penn Engineering está trabalhando com desenvolvedores de plataformas para proteger seus sistemas contra novas intrusões, mas alerta que esses problemas de segurança são sistêmicos e difíceis de resolver completamente.

As descobertas deste artigo demonstram claramente que adotar uma abordagem de segurança é fundamental para desbloquear a inovação responsável. Precisamos abordar as vulnerabilidades inerentes antes de implementar robôs com IA no mundo real ”, afirmou a equipe.

Uma operação segura requer testes de sistemas de IA para potenciais ameaças e vulnerabilidades, o que é essencial para proteger os sistemas de IA que eles criam. Porque somente quando você identifica fraquezas você pode testar e até treinar sistemas para prevenir riscos.

Sign up and earn $1000 a day ⋙

Leave a Comment

Diferença entre TV comum e Smart TV

Diferença entre TV comum e Smart TV

As Smart TVs realmente conquistaram o mundo. Com tantos recursos excelentes e conectividade à Internet, a tecnologia mudou a maneira como assistimos TV.

Por que o freezer não tem luz, mas a geladeira tem?

Por que o freezer não tem luz, mas a geladeira tem?

Geladeiras são eletrodomésticos comuns em residências. As geladeiras geralmente têm 2 compartimentos, o compartimento frio é espaçoso e tem uma luz que acende automaticamente toda vez que o usuário o abre, enquanto o compartimento do freezer é estreito e não tem luz.

2 maneiras de corrigir o congestionamento da rede que deixa o Wi-Fi lento

2 maneiras de corrigir o congestionamento da rede que deixa o Wi-Fi lento

As redes Wi-Fi são afetadas por muitos fatores além de roteadores, largura de banda e interferência, mas existem algumas maneiras inteligentes de melhorar sua rede.

Como fazer downgrade do iOS 17 para o iOS 16 sem perder dados usando o Tenorshare Reiboot

Como fazer downgrade do iOS 17 para o iOS 16 sem perder dados usando o Tenorshare Reiboot

Se você quiser voltar para o iOS 16 estável no seu telefone, aqui está o guia básico para desinstalar o iOS 17 e fazer o downgrade do iOS 17 para o 16.

O que acontece com o corpo quando você come iogurte todos os dias?

O que acontece com o corpo quando você come iogurte todos os dias?

Iogurte é um alimento maravilhoso. É bom comer iogurte todos os dias? Quando você come iogurte todos os dias, como seu corpo muda? Vamos descobrir juntos!

Que tipo de arroz é melhor para a saúde?

Que tipo de arroz é melhor para a saúde?

Este artigo discute os tipos de arroz mais nutritivos e como maximizar os benefícios para a saúde de qualquer arroz que você escolher.

Como acordar na hora certa pela manhã

Como acordar na hora certa pela manhã

Estabelecer um horário de sono e uma rotina para dormir, mudar o despertador e ajustar a dieta são algumas das medidas que podem ajudar você a dormir melhor e acordar na hora certa pela manhã.

Dicas para jogar Rent Please! Simulador de Proprietário para Iniciantes

Dicas para jogar Rent Please! Simulador de Proprietário para Iniciantes

Alugue, por favor! Landlord Sim é um jogo de simulação para dispositivos móveis para iOS e Android. Você jogará como proprietário de um complexo de apartamentos e começará a alugar um apartamento com o objetivo de reformar o interior do seu apartamento e deixá-lo pronto para inquilinos.

Últimos códigos de defesa de torre de banheiro e como inseri-los

Últimos códigos de defesa de torre de banheiro e como inseri-los

Obtenha o código do jogo Bathroom Tower Defense Roblox e resgate recompensas emocionantes. Elas ajudarão você a melhorar ou desbloquear torres com maior dano.

Estrutura, símbolos e princípios de funcionamento dos transformadores

Estrutura, símbolos e princípios de funcionamento dos transformadores

Vamos aprender sobre a estrutura, os símbolos e os princípios de operação dos transformadores da maneira mais precisa.

4 maneiras pelas quais a IA está melhorando as Smart TVs

4 maneiras pelas quais a IA está melhorando as Smart TVs

De melhor qualidade de imagem e som a controle de voz e muito mais, esses recursos com tecnologia de IA estão tornando as smart TVs muito melhores!

Por que o ChatGPT é melhor que o DeepSeek

Por que o ChatGPT é melhor que o DeepSeek

Inicialmente, as pessoas tinham grandes esperanças no DeepSeek. Como um chatbot de IA comercializado como um forte concorrente do ChatGPT, ele promete recursos e experiências de bate-papo inteligentes.

Conheça Fireflies.ai: a secretária de IA gratuita que economiza horas de trabalho

Conheça Fireflies.ai: a secretária de IA gratuita que economiza horas de trabalho

É fácil perder detalhes importantes ao anotar outros itens essenciais, e tentar fazer anotações enquanto conversa pode ser uma distração. Fireflies.ai é a solução.

Como criar Axolotl no Minecraft, domar Salamandra no Minecraft

Como criar Axolotl no Minecraft, domar Salamandra no Minecraft

O Axolot do Minecraft será um ótimo assistente para jogadores que operam debaixo d'água se eles souberem como usá-lo.

Configuração do jogo para PC A Quiet Place: The Road Ahead

Configuração do jogo para PC A Quiet Place: The Road Ahead

A configuração de A Quiet Place: The Road Ahead é bem avaliada, então você precisa considerar a configuração antes de decidir fazer o download.