Home
» Wiki
»
Problemas de privacidade da IA da Apple
Problemas de privacidade da IA da Apple
A Apple revelou uma série de recursos de IA na WWDC24 , prometendo trazer ferramentas poderosas para iPhone, iPad e Mac. Mas a Apple pode realmente garantir privacidade no mundo da IA? As soluções de nuvem privada e no dispositivo da Apple são impressionantes, mas a integração do ChatGPT cria uma vulnerabilidade potencial.
Como a Apple planeja transformar sua IA em uma ferramenta de privacidade
A Apple revelou uma série de recursos de IA na WWDC24, e eles estarão disponíveis em todos os Macs, iPhones e iPads compatíveis até o final de 2024. Mas IA e privacidade nem sempre andam de mãos dadas. Ainda assim, a Apple assumiu compromissos ousados, mas razoáveis, com a privacidade.
Processamento no dispositivo
Siri solicita sugestões aprimoradas por IA
Normalmente, as operações de IA exigem um poder de processamento significativo, um recurso que a maioria dos telefones e laptops padrão não possui. No entanto, com o advento do silício da Apple, todos os Macs, iPhones e iPads equipados com chips da série M ou A17 Pro (e mais recentes) serão capazes de executar localmente a maioria dos modelos de IA generativa , incluindo o modelo de linguagem da Apple.
A Apple vem desenvolvendo seu Apple Neural Engine (ANE) proprietário para lidar com aprendizado de máquina e IA há algum tempo. Com o passar dos anos, ficou mais eficiente processar solicitações de IA sem precisar entregá-las inteiramente à CPU ou GPU. A maioria dos modelos de IA da Apple serão executados offline e garantirão a privacidade.
Computação em Nuvem Privada (PCC)
No entanto, seu dispositivo Apple pode não ser capaz de lidar com algumas solicitações de IA localmente. Embora a Apple tenha declarado isso na WWDC24, ela não especificou nem deu exemplos de quais solicitações seriam demais para um processador offline local. Os exemplos são especulativos, mas a Apple diz que “solicitações complexas” podem danificar seu dispositivo.
A solução da Apple é a Computação em Nuvem Privada (PCC), um processador de IA baseado em nuvem criado com silício personalizado da Apple. Ele enfatiza a privacidade e a transparência e vem com seu próprio Secure Enclave, assim como a solução de proteção de dispositivos da Apple. Ao usar o PCC, as solicitações de IA são excluídas imediatamente após o processamento e ninguém, incluindo a Apple, pode acessar os dados por meio de um backdoor. Para aumentar ainda mais a confiança, a Apple fornece transparência verificável, permitindo que pesquisadores de segurança terceirizados auditem o software em execução nos nós do PCC.
ChatGPT apresenta grandes riscos à privacidade
O processamento no dispositivo e o PCC são ótimas medidas de privacidade, mas ainda há um aspecto do Apple Intelligence que é questionável: o ChatGPT . Para quem não sabe, a Apple planeja integrar o ChatGPT em suas experiências de IA, incluindo a Siri. Essas aplicações de IA aproveitarão a base de conhecimento mais ampla do ChatGPT e tomarão emprestadas suas capacidades de processamento de imagens.
Usando o ChatGPT no iPhone
Para ser justo, a Apple tomou algumas medidas para garantir a privacidade do usuário ao usar o ChatGPT. Por exemplo, quando você envia uma solicitação ao OpenAI, o dispositivo ofusca seu endereço IP e nenhum registro de suas informações é criado. Além disso, todas as solicitações do ChatGPT exigem sua permissão prévia e você deve concedê-la sempre.
Nota : Apesar das alegações de Elon Musk, a OpenAI não pode acessar todos os dados no dispositivo de um usuário; O ChatGPT só pode processar informações apresentadas em seu prompt.
No entanto, os recursos mais poderosos do ChatGPT exigem uma assinatura e você terá que se conectar à sua conta premium para aproveitá-los. No entanto, isso sujeitará você à política de privacidade da OpenAI. A política de privacidade da OpenAI permite coletar informações pessoais, registrar o uso, treinar modelos com informações pessoais, compartilhar seus dados com terceiros e muitos outros impactos relacionados.
ChatGPT Compose no macOS Sequoia
Embora existam maneiras de evitar algumas das violações de privacidade do ChatGPT, a maioria das soluções são indiretas e a OpenAI poderia facilmente evitá-las. Parece que evitar o ChatGPT no Apple Intelligence (especialmente no macOS) será difícil, se não impossível. Dependendo de como você usa o Siri ou o Compose, você pode acabar dependendo muito do ChatGPT, deixando muitos dos seus dados pessoais nas mãos do OpenAI.