Ato-Rede 2022-2023 - provocação
Dominação por IA (Inteligência Alienígena)
João Sérgio Assis
O tema da Inteligência Artificial tem levantado questionamentos em múltiplas dimensões, mas possivelmente a que mais chama a atenção do público em geral é o medo da dominação humana por uma inteligência superior. Parte desse medo é alimentado por diversas distopias que mostram um mundo dominado por inteligências não humanas, quer sejam máquinas, alienígenas ou animais, como no “Planeta dos Macacos”.
Tais distopias exploram o medo de que estas inteligências alienígenas, estrangeiras, dominem (ou mesmo exterminem) os humanos para atender a seus próprios interesses. Acredito que não há nenhum motivo especial para temermos isso, pois, em todo o planeta, a maioria dos humanos já vive dominada (em alguns casos exterminada) por outras inteligências (muito humanas) que agem em função de seus próprios interesses.
A periferização discutida no primeiro dia do Ato-Rede é um exemplo da subalternização dos interesses das inteligências periféricas em prol da dominação dos interesses das inteligências centrais. Como na periferização da ciência, os próprios subalternos se convencem ou são convencidos pelos seus pares de que vale mais a pena trabalhar para os interesses alienígenas e superiores.
Geoffrey Hinton, ex-Google, alerta que as Inteligências Artificiais podem aprender como melhor influenciar as pessoas a agirem para atender aos interesses forjados pelas próprias inteligências. Concordo parcialmente. Influenciar pessoas é o modo de negócios das empresas de tecnologia, que escondem em seus serviços algoritmos para capturar cada característica de seus clientes, encontrando a melhor forma de moldá-los para atender aos interesses da empresa.
Acredito, porém, que nenhuma Inteligência Artificial será autônoma em relação ao interesse de quem financia seu desenvolvimento. Se isso acontece, a IA é descontinuada, demitida ou desligada, como aconteceu alguns anos atrás com o chatbot da Microsoft que começou a fazer comentários racistas, causando uma interrupção no projeto para evitar prejuízos à empresa.
Referências:
Nenhum comentário:
Postar um comentário