Sociedade, governo ou indústria: quem terá maior controle da inteligência artificial no futuro?

No futuro, quem terá maior influência e controle da inteligência artificial? Essa é uma inquietude a respeito do alcance e domínio da IA sobre os humanos que gera uma disputa de poder recorrente. Aliás, com a popularização do ChatGPT – lançado pela empresa OpenAI em novembro de 2022 -, na modalidade de IA Generativa, ela alcançou o domínio público devido a versatilidade e capacidade criativa – prerrogativa até então dos seres humanos -, principalmente para a geração de conteúdo em formato de texto, áudio e vídeo.

Podemos reconhecer que o tema é complexo devido aos impactos ainda incertos de uma tecnologia de propósito geral, ainda mais porque ela gera consequências em todos os segmentos sociais e econômicos. Para começar, podemos analisar a questão utilizando o conceito de vetores e observando as forças que atuam sobre todos os aspectos da IA. Considerando a atuação e influência dos stakeholders, ações essas que podem mudar os rumos desta tecnologia e todas as suas criações, chegamos aos vetores de poder econômico, poder político e poder social.

Vetor do poder econômico

O vetor econômico representa o poder da indústria de tecnologia sob a liderança das big techs, empresas que controlam as redes sociais, os serviços de busca na internet, os aplicativos e as compras online, entre outros serviços que utilizam a inteligência artificial. Uma dimensão deste vetor é medida pelo faturamento das maiores empresas americanas e chinesas de tecnologia. O número supera U$ 1 trilhão, maior que o PIB da Holanda em 2022. São também empresas líderes em valor de mercado entre as listadas na Bolsa de Valores dos Estados Unidos. Entre as cinco maiores do mundo em 2023, quatro são big techs, sendo a Apple a maior, cujo valor acionário chegou a 3 trilhões de dólares.

Em 2022, em meio a uma derrocada do mercado de ações liderada pela tecnologia, as cinco maiores, chamadas de FAMAG (Facebook, Amazon, Microsoft, Apple e Google) investiram US$ 223 bilhões em pesquisa e desenvolvimento (P&D), contra US$ 109 bilhões em 2019. Como a IA exige grandes investimentos em capital humano para pesquisa, treinamento dos grandes modelos de linguagem (LLM – Large Language Models em inglês), hardware e software, a concentração de poder só tende a aumentar nesta tecnologia. Integram também o vetor do poder econômico as startups – que muitas vezes atuam em parceria com a big techs –, os centros de pesquisa em tecnologia e os fabricantes de componentes eletrônicos, hardware e software.

No momento, este vetor é o mais influente pelo pioneirismo em lançar produtos e serviços de inteligência artificial. Porém, seu protagonismo muda rapidamente de mãos dentro da indústria conforme os avanços tecnológicos. Até 2022, a OpenAI, criadora do ChatGPT, era uma empresa desconhecida fora do meio tecnológico. Os stakeholders deste vetor estão em uma ferrenha disputa de liderança e tendem a se opor à regulamentação da IA, que lhes exigiria mais responsabilidade sobre os conteúdos publicados e mais custos para controle. Entretanto, diante das pressões pelos potenciais riscos e danos que a IA pode causar, muitas empresas se empenham na autorregulação, criando códigos internos de conduta ou aderindo à manifestos em favor da ética e IA responsável.

Vetor do poder político

O vetor político se configura pela ação dos três poderes da república – executivo, legislativo e judiciário – e demais entes reguladores públicos e setoriais. Esse poder geralmente demonstra muita força devido a capacidade impositiva e da ação dos agentes estatais no controle, fiscalização e penalização dos demais agentes. Considerando que somente 30% da população mundial vive em regimes plenamente democráticos, se tornam recorrentes as discussões sobre o tema, pois a indústria sempre está à frente dos demais vetores e tende a desafiar regras e imposições regulatórias.

Nos Estados Unidos, o presidente Joe Biden assinou uma ordem executiva em novembro de 2023 em defesa da IA responsável, colocando diretrizes e barreiras no uso e desenvolvimento de grandes modelos de linguagem, que devem estar sujeitas a supervisão antes de seu lançamento. Na China, país importante na criação da tecnologia digital e com controle estatal centralizado, o órgão regulador da internet adotou medidas provisórias para reger os serviços da IA Generativa, com objetivo de criar uma lei geral para sua utilização. Iniciativas em prol da regulação da Inteligência Artificial também podem ser conferidas na Europa e no Reino Unido.

Na América Latina, somente o Peru publicou, em julho de 2023, sua lei de promoção do uso da inteligência artificial para o desenvolvimento econômico do país. Todavia, esse é um regramento muito principiológico e sumário, que não estabelece obrigações para os desenvolvedores da tecnologia. No Brasil, segue em fase de emendas no Senado Federal o Projeto de Lei PL 2338/23, que representa um avanço em termos de regulação de IA por equilibrar a proteção de direitos fundamentais humanos baseados em princípios éticos com o estímulo ao desenvolvimento tecnológico responsável. Entretanto, o projeto recebe críticas de alguns especialistas em IA, que enfatizam a dificuldade de regulação de uma tecnologia em estágio inicial de aplicações, e em contrapartida, sugerem investimentos em educação digital e reflexão da sociedade sobre o uso responsável da inteligência artificial.

Vetor do poder social

O vetor social representa as entidades da sociedade civil, das organizações não governamentais (ONGs), da imprensa, do meio acadêmico, das demais empresas e pessoas físicas consumidoras e de agremiações religiosas interessadas. É o vetor de poder mais heterogêneo e pouco escutado nas discussões sobre inteligência artificial, mas que pode ser decisivo com a união de forças em ação. Menos visível, age com base nos benefícios que a tecnologia pode trazer, resguardando valores fundamentais. Aliás, é no vetor do poder social que a maioria da população está inserida, então ela demanda do Governo a regulamentação e da Indústria a concepção de produtos regida pela “ética by design”, a fim de preservar direitos e privacidade nas aplicações da IA.

Algumas questões relativas aos impactos diretos e externalidades da IA colocadas pelos stakeholders da Sociedade são a perda de empregos para a IA, uma das maiores ameaças em todos os setores e agentes da sociedade. Segundo a OCDE – Organização para Cooperação e Desenvolvimento Econômico, que incluiu 38 países, até 27% dos empregos atuais podem ser substituídos pela IA, principalmente para trabalhadores cujas atividades podem ser facilmente automatizadas.

Outra questão é o direito autoral de criadores de conteúdo e do uso de imagens de artistas que são geradas pela IA para reduzir os altos custos de produções cinematográficas e produção de shows. Este debate resultou em uma greve de roteiristas e atores de Hollywood, que foi liderada pelo Sindicato de Atores com 160 mil associados. Também podemos discutir o legado digital de uma pessoa falecida, que pode ser trazida novamente à vida pelo uso de ferramentas de IA. É uma discussão no meio jurídico sobre a titularidade entre herdeiros, a responsabilidade civil e os lucros auferidos pelo uso da imagem de pessoas recriadas pela IA.

Por fim, temos os vieses discriminatórios causados pelos algoritmos de IA, como a utilização de bases de dados incompletas, desatualizadas ou incorretas, gerando tratamento assimétrico entre grupos sociais. Por isso, a sociedade exige transparência, privacidade e explicabilidade dos algoritmos de IA. E temos ainda as fake news, que se tornam mais críveis com o uso das ferramentas de IA que permitem a geração de áudio e vídeos de alta resolução de uma pessoa a partir de textos apócrifos, como a oferecida pelo aplicativo FakeYou.

Por outro lado, os stakeholders deste vetor usufruem de vários benefícios  da IA, como na saúde, com o uso e alcance da utilização da IA no diagnóstico de doenças e procedimentos cirúrgicos e aceleração no desenvolvimento de fármacos e vacinas; da educação, na geração de conteúdo individualizado por aluno de acordo com a necessidade, assim como ambientes de aprendizagem colaborativos para professores, por meio de algoritmos e otimização dos sistema de gestão educacional; no sistema financeiro, na segurança e prevenção de fraudes, concessão de crédito e relacionamento com clientes; e em todos os processos produtivos das organizações.

As resultantes vetoriais

Diante de tantos agentes que podem modular os vetores na disputa pelo domínio, uso e controle da IA, concluímos que as principais resultantes vetoriais que irão definir o futuro da IA dependem da confluência dos interesses, negociação e benefícios logrados pelos vetores Governo, Indústria e Sociedade. São elas: regulação, mercado, pactos éticos-culturais e sustentabilidade.

A regulação é medida pela somatória dos interesses e ações dos agentes dos vetores Governo e Indústria, que pode mover-se de intensidade e sentido de acordo com a efetiva participação da Sociedade na discussão. Já o mercado é decisivo para o futuro da Indústria, desde que esta atenda aos interesses do vetor Sociedade, que geralmente tem em suas mãos um trunfo: a seleção dos produtos e serviços de IA que aceita consumir, ainda que compulsoriamente, já que está submetida ao uso de diversas aplicações da IA sem anuência ou autorização prévia de dados. Por exemplo, os consumidores do mercado se impõem à tecnologia quando não encontram respostas para seus anseios e necessidades.

Já os pactos ético-culturais são formados pela somatória da ação de agentes dos vetores Sociedade e Governo, que atuam reativamente quando os produtos e serviços oferecidos pela Indústria provocam desvios éticos e afrontam valores culturais, além de uso criminoso da IA. Nestes casos, a Sociedade demanda ação imediata de entes governamentais por legislação que penalize os desvios. Por fim, a sustentabilidade é decisiva no futuro da IA, pois quanto maior a convergência dos três vetores apresentados, maior será o benefício para todos. Para a Indústria, a sustentabilidade será alcançada pela perpetuidade das empresas; para o Governo, será a estabilidade política e econômica necessária para enfrentar as grandes transformações que a tecnologia da inteligência artificial antevê; e para a Sociedade, será um futuro no qual esta tecnologia contribua para ampliar a produtividade, a segurança, a saúde, a mitigação dos impactos ambientais e em definitivo a qualidade de vida de todos. Que este futuro seja de uma IA inclusiva, acessível a todos e que seu uso ocorra com responsabilidade, transparência e ética.

Durval Jacintho é Engenheiro Eletrônico e Mestre em Automação Industrial pela Universidade Estadual de Campinas (UNICAMP) e consultor internacional em tecnologia pela DJCon, com 37 anos de experiência C-Level no mercado de tecnologia e telecomunicações. Conselho de Administração certificado pelo Instituto Brasileiro de Governança Corporativa (IBGC) e membro da Comissão de Ética do IBGC e da Comissão de Inovação do Capítulo São Paulo Interior. Integra o Comitê de Gestão do Hub da Gestão e o Chief.group.