Durante os últimos anos, grande parte das discussões sobre inteligência artificial esteve concentrada em modelos capazes de produzir textos, imagens, vídeos ou códigos. Ferramentas como assistentes virtuais e geradores de conteúdo popularizaram o conceito de IA generativa e fizeram com que milhões de pessoas passassem a interagir diariamente com algoritmos capazes de compreender linguagem natural.
No entanto, uma nova etapa dessa evolução tecnológica começa a ganhar força: o desenvolvimento de modelos que irão interagir com o mundo físico. Em vez de treinar algoritmos com textos disponíveis na internet, essas iniciativas procuram ensinar máquinas a compreender como as pessoas realizam atividades cotidianas como caminhar, trabalhar, dirigir, cozinhar, organizar ambientes ou executar tarefas profissionais.
Para que isso seja possível, porém, não basta utilizar livros, páginas da web ou bases de dados públicas. É necessário construir conjuntos de dados muito mais ricos, capazes de representar movimentos, sons, ambientes, objetos, interações humanas e inúmeras situações do cotidiano.
Essa necessidade explica o surgimento de iniciativas recentes nas quais empresas passaram a remunerar voluntários para gravar sua rotina utilizando câmeras corporais, celulares ou outros dispositivos, produzindo vídeos e áudios destinados ao treinamento de modelos de aprendizagem de máquina.
À primeira vista, trata-se apenas de mais uma etapa natural da evolução da inteligência artificial. Entretanto, quando observamos essas iniciativas sob a perspectiva da segurança da informação e da privacidade, surgem questões bastante complexas que ainda estão longe de possuir respostas definitivas.
Ensinar uma máquina a agir exige um tipo diferente de conhecimento
Modelos de linguagem aprenderam a responder perguntas porque foram treinados com enormes volumes de textos produzidos por seres humanos. Embora esse processo apresente desafios importantes relacionados à qualidade dos dados, direitos autorais e vieses, o objeto de aprendizagem continua sendo essencialmente digital.
A IA física amplia significativamente essa necessidade. Um robô que futuramente precisará organizar um estoque, auxiliar uma pessoa idosa, operar em um hospital ou colaborar em uma linha de produção não pode aprender apenas lendo descrições dessas atividades. Ele precisa compreender movimentos, posições, distâncias, relações espaciais, força aplicada sobre objetos, sequência de ações e inúmeros detalhes que dificilmente podem ser representados apenas por palavras.
É justamente por isso que vídeos gravados em primeira pessoa, registros sonoros e demonstrações práticas passaram a ter um valor estratégico para empresas que desenvolvem esse tipo de tecnologia. Quanto maior for a diversidade de ambientes, profissões, culturas e comportamentos representados nesses conjuntos de dados, maior tende a ser a capacidade do modelo de compreender situações do mundo real.
Sob esse aspecto, os dados deixam de representar apenas informações sobre pessoas e passam a registrar a própria experiência humana.
O cotidiano também se transforma em dados
Essa mudança provoca uma transformação importante na forma como entendemos a privacidade. Durante muito tempo, a discussão concentrou-se em informações cadastrais, documentos pessoais, histórico de navegação, localização geográfica e registros de acessos. Esses dados continuam extremamente relevantes, mas a IA física amplia significativamente aquilo que pode ser considerado informação sensível.
Uma gravação realizada para mostrar como uma pessoa organiza um escritório pode capturar documentos confidenciais sobre uma mesa. Um vídeo gravado durante uma caminhada pode registrar placas de veículos, rostos de terceiros, conversas privadas ou a rotina de vizinhos. Uma gravação feita em um ambiente de trabalho pode revelar processos internos, equipamentos, sistemas utilizados, controles físicos de acesso ou informações estratégicas para uma organização.
Em outras palavras, aquilo que inicialmente parece ser apenas um registro cotidiano pode conter uma quantidade significativa de informações úteis para diferentes finalidades, inclusive para atividades maliciosas. Esse cenário torna muito mais difícil estabelecer limites claros entre o dado necessário para treinar um modelo e o dado que representa um risco desnecessário à privacidade.
Um consentimento nem sempre protege todos os outros
Outro aspecto frequentemente negligenciado diz respeito ao consentimento. Quando alguém concorda em participar de um programa de coleta de dados para treinamento de inteligência artificial, normalmente está autorizando o uso das próprias imagens e informações. Entretanto, essa decisão raramente afeta apenas o participante.
Familiares, colegas de trabalho, clientes, crianças, vizinhos e pessoas que simplesmente cruzam o caminho durante uma gravação podem aparecer nesses registros sem sequer terem conhecimento de que estão contribuindo, ainda que involuntariamente, para o treinamento de um sistema de inteligência artificial.
A situação torna-se ainda mais delicada em ambientes corporativos. Um colaborador pode estar autorizado a gravar suas atividades, mas isso não significa que a empresa tenha autorizado a exposição de processos internos, documentos, equipamentos ou informações estratégicas presentes naquele ambiente.
Esse desafio demonstra que o conceito tradicional de consentimento talvez seja insuficiente para lidar com modelos de inteligência artificial que aprendem continuamente a partir de registros do mundo físico.
Aumentando a superfície de risco
Na segurança da informação existe um princípio relativamente simples: quanto maior o volume de informações armazenadas, maior tende a ser a responsabilidade sobre sua proteção. Os conjuntos de dados utilizados para treinar uma IA física possuem características particularmente sensíveis porque combinam imagens, áudio, localização, hábitos de comportamento, relações interpessoais e informações contextuais difíceis de anonimizar.
Mesmo quando nomes e rostos são removidos, diversos elementos podem permitir a identificação indireta de pessoas ou organizações. Objetos específicos, ambientes internos, sotaques, rotinas de deslocamento ou características arquitetônicas podem ser suficientes para reconstituir parte da identidade dos envolvidos.
Além disso, esses repositórios passam a representar ativos extremamente valiosos. Uma base contendo milhares de horas de gravações realizadas em residências, empresas e ambientes públicos pode despertar interesse não apenas de pesquisadores, mas também de criminosos interessados em inteligência, espionagem ou engenharia social. Proteger esse tipo de informação exige controles de segurança compatíveis com o valor e a sensibilidade dos dados armazenados.
O mundo físico também expõe a IA às alucinações
As chamadas alucinações da inteligência artificial costumam ser associadas a respostas incorretas produzidas por modelos de linguagem. Entretanto, quando esses sistemas passam a atuar no mundo físico, esse problema pode assumir consequências muito mais relevantes.
Um modelo pode interpretar incorretamente uma situação, identificar um objeto de maneira equivocada ou compreender uma instrução diferente daquela que realmente foi dada. Em aplicações puramente digitais, esse tipo de erro normalmente produz uma resposta incorreta. Em aplicações físicas, entretanto, uma interpretação equivocada pode resultar em acidentes, danos materiais ou riscos à integridade das pessoas.
Isso significa que o treinamento desses modelos precisa ser acompanhado por mecanismos robustos de validação, supervisão humana e limites operacionais que reduzam o impacto de decisões incorretas. A discussão sobre segurança da inteligência artificial, portanto, deixa de envolver apenas a qualidade das respostas produzidas e passa a considerar também os efeitos concretos que essas respostas podem gerar quando transformadas em ações.
A SI precisará acompanhar essa nova realidade
Assim como ocorreu com a popularização da computação em nuvem e, mais recentemente, da inteligência artificial generativa, a IA física exigirá uma adaptação das estratégias tradicionais de segurança da informação. As organizações precisarão estabelecer políticas claras sobre gravações realizadas em ambientes corporativos, definir critérios para participação em programas de coleta de dados, avaliar riscos relacionados ao compartilhamento de imagens e revisar processos de classificação da informação.
Também será necessário ampliar a conscientização dos colaboradores. Muitas pessoas podem enxergar essas iniciativas apenas como uma oportunidade de remuneração adicional, sem perceber que uma simples gravação pode revelar detalhes relevantes sobre processos internos, tecnologias utilizadas, infraestrutura física ou informações de clientes.
No fim das contas, a proteção da informação continuará dependendo não somente da tecnologia, mas também da capacidade das pessoas de compreender o valor dos dados que produzem diariamente.
2º PAINEL ESKIVE - Cibercrime e a Epidemia de Insiders
Assista ao debate multifacetado entre nossa CEO, Priscila Meyer, e especialistas do mercado sobre a “febre” das ameaças internas e como o ecossistema de segurança está lidando com o fenômeno. ⭣
