Considerações Éticas da Inteligência Artificial: Exemplos de Dilemas Morais

O rápido desenvolvimento da inteligência artificial (IA) introduziu inúmeras oportunidades em todo o mundo, desde a melhoria dos diagnósticos médicos até a promoção de conexões humanas por meio das redes sociais, passando pela melhoria da eficiência no trabalho através da automação. No entanto, essas mudanças rápidas também suscitaram preocupações éticas significativas. A preocupação gira em torno do potencial dos sistemas de IA para introduzir preconceitos, exacerbar problemas climáticos e ameaçar os direitos humanos. Esses riscos associados à IA podem agravar as desigualdades existentes, prejudicando ainda mais os grupos já marginalizados.

Preconceito na Inteligência Artificial

Quando você pesquisa "os maiores líderes da história" em um motor de busca popular, pode encontrar uma lista predominantemente composta por figuras masculinas notáveis. Já contou quantas mulheres aparecem? Se procurar "estudantes mulheres", talvez encontre uma página cheia de imagens de mulheres e meninas em roupas provocantes. Em contrapartida, ao digitar "estudantes homens", os resultados mostram principalmente jovens estudantes masculinos padrão, com quase nenhum em roupas reveladoras. Esse preconceito de gênero decorre de estereótipos enraizados na sociedade.

Os resultados dos motores de busca não são neutros. Eles processam grandes conjuntos de dados e priorizam resultados com base no comportamento dos usuários e na localização geográfica. Assim, essas ferramentas de busca podem se tornar câmaras de eco que sustentam e reforçam os preconceitos e estereótipos do mundo real.

Como podemos garantir resultados mais equilibrados e precisos? Durante o desenvolvimento de algoritmos, a criação de grandes conjuntos de dados para aprendizado de máquina e processos de decisão de IA, devem-se tomar medidas para evitar ou, pelo menos, reduzir os preconceitos de gênero.

Inteligência Artificial no Tribunal

A aplicação da IA nos sistemas judiciais em todo o mundo está se tornando cada vez mais comum, levantando inúmeras questões éticas que precisam ser exploradas. A IA poderia avaliar casos e administrar a justiça de forma mais rápida e eficiente do que os juízes humanos. A inteligência artificial tem o potencial de impactar significativamente várias áreas, desde as profissões jurídicas e departamentos judiciais até auxiliar órgãos legislativos e governamentais na tomada de decisões. Por exemplo, a IA pode melhorar a eficiência e precisão dos advogados durante as consultas e litígios, beneficiando-os, bem como seus clientes e a sociedade em geral. Os sistemas de software de juízes existentes podem ser complementados e aprimorados por ferramentas de IA para apoiar a elaboração de novos julgamentos. Essa tendência crescente de utilizar sistemas autônomos é chamada de automação judicial.

Alguns argumentam que a inteligência artificial contribui para um sistema de justiça criminal mais justo, uma vez que as máquinas podem aproveitar sua velocidade e análise de dados em grande escala para avaliar e considerar fatores relevantes melhor do que os seres humanos. Em consequência, a IA toma decisões informadas desvinculadas de qualquer preconceito e subjetividade.

No entanto, existem numerosos desafios éticos:

• Falta de Transparência: As decisões de IA nem sempre são compreensíveis para os humanos.
• Não Neutralidade: As decisões baseadas em IA são suscetíveis a imprecisões, resultados discriminatórios e preconceitos embutidos.
• Práticas de vigilância para a coleta de dados e proteção da privacidade dos usuários dos tribunais.
• Novas preocupações em relação à equidade, aos direitos humanos e a outros valores fundamentais.

Estaria disposto a aceitar um julgamento feito por um robô em tribunal? Mesmo se não entendermos como chegou a uma conclusão, estaria de acordo?

IA e Criação Artística

A aplicação da IA no setor cultural levanta considerações éticas fascinantes. Em 2016, uma pintura intitulada "O Próximo Rembrandt" foi projetada por um computador e impressa com uma impressora 3D, mais de 350 anos após a morte do pintor. Para alcançar esse feito tecnológico, os pesquisadores realizaram análises pixel a pixel de mais de 300 pinturas de Rembrandt e usaram algoritmos de aprendizado profundo para aumentá-las, criando um banco de dados único. Cada detalhe da identidade artística de Rembrandt foi capturado para formar a base de um algoritmo capaz de produzir obras-primas sem precedentes.

Para dar vida a essa pintura, uma impressora 3D recriou a textura e as camadas das pinceladas na tela, capaz de enganar até mesmo especialistas em arte.

Mas quem deve ser designado como o autor? A empresa que organizou o projeto, os engenheiros, o algoritmo ou… o próprio Rembrandt?

Em 2019, a empresa tecnológica chinesa Huawei anunciou que seu algoritmo de IA foi capaz de completar os dois últimos movimentos da Oitava Sinfonia de Schubert, que começou mas ficou inacabada há 197 anos. Então, o que acontece quando as máquinas têm a capacidade de criar arte por conta própria? Se os autores humanos são substituídos por máquinas e algoritmos, como se deve atribuir os direitos autorais? Os algoritmos podem e devem ser reconhecidos como autores e desfrutar dos mesmos direitos que os artistas?

A arte criada pela IA requer uma redefinição da "autoria" para considerar equitativamente tanto o trabalho artístico dos criadores originais quanto os algoritmos e tecnologias responsáveis pela criação da obra de arte. A criatividade é a capacidade de conceber e produzir conteúdo novo e original através da imaginação ou invenção, desempenhando um papel crucial nas sociedades abertas, inclusivas e diversificadas. Portanto, o impacto da inteligência artificial na criatividade humana merece uma reflexão séria.

Embora a IA seja uma ferramenta poderosa para a criação, também levanta questões importantes sobre o futuro da arte, os direitos e a remuneração dos artistas, bem como a integridade da cadeia de valor criativa. Novos marcos devem ser estabelecidos para distinguir entre pirataria, plágio e criação original, e para reconhecer o valor do trabalho criativo humano em nossas interações com a IA. Esses marcos são cruciais para evitar a exploração do trabalho e da criatividade humanos e garantir que os artistas recebam uma compensação e reconhecimento adequados, além de preservar a integridade da cadeia de valor cultural e a capacidade do setor cultural de fornecer trabalho decente.

Veículos Autônomos

Os veículos autônomos são capazes de perceber seu ambiente e operar com intervenção humana mínima ou nula. Para garantir que esses veículos naveguem com segurança e compreendam seu ambiente de direção, uma infinidade de sensores no veículo captura continuamente grandes quantidades de dados. Esses dados são então processados pelo sistema de computador de condução autônoma do veículo.

Os carros autônomos também devem passar por treinamento extensivo para entender os dados que coletam e tomar decisões corretas em qualquer situação de tráfego imaginável. As pessoas tomam decisões morais todos os dias. Quando um motorista pisa no freio para evitar atingir um pedestre atravessando a rua, está tomando uma decisão ética, transferindo o risco do pedestre para os ocupantes do veículo. Imagine um carro autônomo cujos freios falham e se dirige a toda velocidade em direção a uma pessoa idosa e uma criança. Basta desviar ligeiramente para salvar um deles. Desta vez, a decisão não é tomada por um motorista humano, mas pelo algoritmo do carro.

Quem você escolheria, a avó ou a criança? Acredita que há apenas uma resposta correta? Este é um dilema ético clássico que destaca a importância da ética no desenvolvimento tecnológico.

Recomendações sobre a Ética da IA

UNESCO Publica o Primeiro Padrão Global sobre a Ética da IA

Em novembro de 2021, a UNESCO publicou o primeiro padrão global sobre a ética da inteligência artificial, conhecido como "Recomendação sobre a Ética da Inteligência Artificial". Este padrão se aplica a todos os estados membros da UNESCO. A recomendação se baseia na proteção dos direitos humanos e da dignidade, com princípios fundamentais como a transparência e a equidade em seu núcleo, destacando a importância da supervisão humana sobre os sistemas de IA. O que torna esta recomendação particularmente aplicável é seu amplo escopo, cobrindo várias áreas de ação política, permitindo que os responsáveis políticos traduzam os valores e princípios centrais em ações através de domínios como governança de dados, meio ambiente e ecossistemas, gênero, educação e pesquisa, saúde e bem-estar social.

A recomendação interpreta amplamente a IA como sistemas capazes de processar dados de uma maneira semelhante a um comportamento inteligente. Devido ao ritmo acelerado das mudanças tecnológicas, qualquer definição fixa e estreita pode rapidamente tornar-se obsoleta e ineficaz para os esforços políticos prospectivos.

Pesquisa Financiada pela OpenAI sobre "Moralidade da IA" em Domínios Complexos

Em 23 de novembro de 2024, relatórios revelaram que a OpenAI está financiando pesquisas no domínio complexo da "Moralidade da IA". Segundo o TechCrunch, documentos protocolados junto ao Internal Revenue Service dos EUA revelaram uma iniciativa onde o setor sem fins lucrativos da OpenAI concedeu uma bolsa a pesquisadores da Universidade de Duke para um projeto intitulado "Research AI Morality". Este programa de pesquisa, que se estende por três anos, é apoiado por um investimento de 1 milhão de dólares.”