Em uma era onde a criação de imagens de inteligência artificial (IA) está ao alcance de todos, a capacidade de detectar imagens falsas, especialmente deepfakes de pessoas, se torna cada vez mais importante.
E se você pudesse dizer apenas olhando nos olhos de alguém?
Essa é a descoberta impressionante de uma nova pesquisa apresentada na Reunião Nacional de Astronomia da Royal Astronomical Society em Hull, que sugere que falsificações geradas por IA podem ser detectadas analisando os olhos humanos da mesma forma que astrônomos estudam imagens de galáxias.
O ponto central do trabalho, realizado por Adejumoke Owolabi, estudante de MSc da Universidade de Hull, está nas reflexões nos olhos de uma pessoa.
Se as reflexos combinarem, a imagem é provavelmente de um humano real. Se não, são provavelmente deepfakes. “As reflexões nos olhos são consistentes para a pessoa real, mas incorretas (do ponto de vista da física) para a pessoa falsa”, disse Kevin Pimbblet, professor de astrofísica e diretor do Centro de Excelência em Ciência de Dados, Inteligência Artificial e Modelagem da Universidade de Hull.
Os pesquisadores analisaram os reflexos de luz nos olhos de pessoas em imagens reais e geradas por IA. Eles usaram métodos tipicamente utilizados em astronomia para quantificar os reflexos e verificaram a consistência deles nos olhos esquerdo e direito.
Imagens falsas frequentemente carecem de consistência nas reflexos entre cada olho, enquanto imagens reais geralmente mostram as mesmas reflexões em ambos os olhos.
“Para medir as formas das galáxias, analisamos se elas são compactas no centro, se são simétricas e quão suaves são. Analisamos a distribuição da luz”, disse o Professor Pimbblet.
“Detectamos os reflexos de forma automatizada e passamos suas características morfológicas pelos índices CAS [concentração, assimetria, suavidade] e Gini para comparar a semelhança entre os olhos esquerdo e direito.
“As descobertas mostram que deepfakes têm algumas diferenças entre o par.”
O coeficiente de Gini é normalmente usado para medir como a luz em uma imagem de galáxia é distribuída entre seus pixels. Essa medição é feita ordenando os pixels que compõem a imagem de uma galáxia em ordem ascendente por fluxo e depois comparando o resultado com o que seria esperado de uma distribuição de fluxo perfeitamente uniforme.
Um valor de Gini de 0 indica uma galáxia em que a luz é distribuída uniformemente por todos os pixels da imagem, enquanto um valor de Gini de 1 indica uma galáxia com toda a luz concentrada em um único pixel.
A equipe também testou os parâmetros CAS, uma ferramenta originalmente desenvolvida por astrônomos para medir a distribuição de luz das galáxias para determinar sua morfologia, mas descobriram que não era um bom preditor de olhos falsos.
“É importante notar que isso não é uma solução definitiva para detectar imagens falsas”, acrescentou o Professor Pimbblet.
“Há falsos positivos e falsos negativos; não vai pegar tudo. Mas este método nos fornece uma base, um plano de ataque, na corrida armamentista para detectar deepfakes.”
Com informações de Royal Astronomical Society
Foto de Marc Schulte na Unsplash
