ChatGPT: Uma faca de dois gumes na redução da disparidade da saúde

ChatGPT, Bard e outras IAs generativas são tecnologias em rápida evolução com enorme potencial em vários domínios, desde o processamento de linguagem natural até a geração de imagens. Essas podem ser ferramentas poderosas nas mãos certas, reduzindo a desigualdade e promovendo a justiça em vários setores. Entretanto, elas também levantam preocupações sobre os possíveis riscos e as consequências. Vamos nos aprofundar nos benefícios e nos desafios do uso da IA generativa para lidar com a disparidade na área da saúde e o benefício inesperado da automação convencional.

Benefícios da IA generativa

Acesso a uma educação mais eficaz

A alfabetização em saúde é um determinante social da saúde e começa com a educação. A IA generativa pode criar experiências de aprendizado personalizadas para crianças ou adultos, adaptando-se à idade, ao histórico, às necessidades, aos pontos fortes e aos pontos fracos de cada um. Essa tecnologia permite o desenvolvimento de conteúdo e recursos educacionais mais relevantes e personalizados e compensa parcialmente a escassez de professores qualificados, aumentando assim o acesso à educação de qualidade para comunidades marginalizadas e carentes. Será que isso substituirá os professores? Neste momento, não.

Remoção de barreiras linguísticas

A IA generativa pode ser usada para desenvolver sistemas de tradução avançados, permitindo que indivíduos de diferentes origens linguísticas se comuniquem de forma eficaz. Isso pode promover a colaboração global, capacitar comunidades marginalizadas e facilitar o acesso a valiosos recursos de saúde. Os materiais do paciente podem ser facilmente personalizados de acordo com o idioma, a idade, o nível educacional, a cultura e muitos outros fatores. No futuro, isso poderá incluir até mesmo o histórico médico e a cobertura de seguro.

Aumento nas oportunidades de emprego

A renda é outro determinante social da saúde. Essa tecnologia pode ser usada para otimizar o processo de recrutamento, identificando e reduzindo o preconceito e a discriminação nas práticas de contratação. Essa tecnologia também pode prever as necessidades futuras da força de trabalho permitindo que governos e organizações desenvolvam programas de desenvolvimento de habilidades direcionados para ajudar comunidades carentes a ter acesso a melhores oportunidades de emprego.

Inclusão financeira

A IA generativa pode analisar dados financeiros complexos, possibilitando o desenvolvimento de produtos e serviços financeiros inovadores, como métodos biométricos de KYC (Know Your Customer, conheça seu cliente) adaptados às necessidades de indivíduos de baixa renda e sem conta bancária, talvez em parceria com agências de redesenvolvimento e parceiros corporativos. Essa tecnologia pode ajudar a facilitar o acesso ao crédito, à poupança e ao seguro para comunidades marginalizadas, promovendo a inclusão financeira e reduzindo a desigualdade econômica. Ele também pode sinalizar empréstimos predatórios e sugerir alternativas para aqueles com baixo nível de conhecimento financeiro.

Melhoria dos cuidados com a saúde

A IA generativa pode ajudar a identificar padrões em dados médicos complexos, levando a diagnósticos mais rápidos e planos de tratamento mais eficazes para subpopulações e aprimorando a pesquisa de saúde da população. Ao analisar os registros médicos históricos e prever as necessidades e os obstáculos dos pacientes, essa tecnologia pode trazer à tona percepções inesperadas, melhorar os resultados do atendimento e possivelmente reduzir as disparidades.

Distribuição de recursos

Do ponto de vista da política pública, os algoritmos de IA podem analisar dados históricos complexos para decidir as formas mais eficazes de distribuir recursos de forma equitativa. Por exemplo, a IA generativa pode ajudar a alocar financiamento e suporte do governo para as comunidades que mais precisam, garantindo que os recursos sejam usados de forma eficiente e tenham um impacto significativo na redução da desigualdade.
 

Desafios da IA generativa

Viés de dados que perpetua a desigualdade

A IA generativa depende de dados para fazer previsões e gerar conteúdo, o que pode ser uma desvantagem significativa se os dados usados forem tendenciosos, não representativos ou incompletos. O uso de dados tendenciosos ou suposições erradas pode levar a modelos de IA tendenciosos que refletem as desigualdades existentes e impactam injustamente as comunidades marginalizadas. Em 2019, um estudo examinou um algoritmo importante usado por provedores e seguradoras em 200 milhões de pessoas para prever as necessidades de saúde com base em custos históricos. O algoritmo concluiu que os pacientes negros tinham riscos médicos menores porque incorriam em custos menores. Na realidade, ele não levou em conta o fato de que os grupos de baixa renda recebem menos cuidados e têm menos confiança em médicos que parecem tendenciosos. Eles acessam menos atendimento, portanto, o custo do atendimento é menor, apesar da maior necessidade.

Ironicamente, é nesse ponto que a automação convencional baseada em regras, como a RPA (Robotic Process Automation, automação de processos robóticos), oferece uma vantagem inegável. A RPA geralmente se baseia em decisões e ações determinísticas orientadas por dados, em que as regras são bem definidas, estáveis, orientadas por consenso e entendidas como melhores práticas ou políticas. A lógica das decisões será clara, e esses processos orientados por regras não serão suscetíveis a vieses ocultos (embora as próprias regras possam mostrar vieses). Por exemplo, a triagem baseada em regras poderia, teoricamente, remover o viés do diagnóstico médico e da terapia, que podem ser influenciados por preconceitos e experiência do médico, e melhorar o acesso ao atendimento.

Deslocamento do trabalho

Embora a IA generativa possa criar novas oportunidades de trabalho, ela também pode levar ao deslocamento de empregos. A automação pode afetar desproporcionalmente os empregos de baixa qualificação, aumentando a desigualdade de renda e exacerbando a divisão no setor de saúde. Se a IA for amplamente adotada, uma estimativa é que 15 a 30% dos trabalhadores, ou 400 milhões de pessoas em todo o mundo, poderão perder seus empregos até 2030. Portanto, a requalificação profissional ou a requalificação das populações afetadas sempre precisará ser considerada em qualquer implementação de IA.

Exclusão digital

Os benefícios da IA generativa podem não ser distribuídos de forma equitativa, pois o acesso à tecnologia e à alfabetização digital varia entre as comunidades. O aumento da exclusão digital pode fazer com que determinados grupos não consigam se beneficiar das soluções orientadas por IA, o que leva a mais disparidades. Os esforços de impacto social talvez precisem ser reduzidos ao menor denominador digital comum. Por outro lado, estima-se que 91,40% da população mundial possua um smartphone ou feature phone atualmente.

Possível uso indevido

Os malfeitores poderiam explorar a IA generativa para fins maliciosos, como criar deepfakes, gerar notícias falsas ou automatizar ataques cibernéticos. O uso indevido da tecnologia de IA pode minar a confiança nos sistemas digitais, afetando desproporcionalmente as populações vulneráveis. Por outro lado, até mesmo as verdades de boa-fé podem ser ignoradas. É uma oportunidade para as startups desenvolverem tecnologia avançada, como detectores de IA , para detectar e evitar esse uso indevido.

Uso da IA para o bem

A IA generativa é extremamente promissora na redução da desigualdade, mas também apresenta desafios significativos que precisam ser abordados. Para aproveitar seu potencial para o bem, é fundamental investir no desenvolvimento ético da IA, em dados imparciais, na infraestrutura digital e na educação. Conforme a IA generativa passa de bebê a adolescente, somos obrigados a moldar o que ela está exposta, seu propósito, sua moral e seus deveres. Se desenvolvermos essa tecnologia com responsabilidade, poderemos construir um futuro em que a IA generativa aumente, em vez de diminuir, a produtividade e o valor humanos.