A regulação do uso da inteligência artificial na saúde: equilíbrio e inovação
Sandra Franco*
Certamente, os filmes que trazem a inteligência artificial como tema já despertaram em nós sentimentos de admiração e perplexidade, na mesma medida. A citar apenas um, podemos indicar o clássico “2001, uma Odisseia no Espaço”, em que um computador de bordo da nave começa a questionar ordens dos humanos e se mostra cada vez menos disposto a colaborar. O ser humano dominado pela máquina tem sido um tema frequente e, de certa forma, os algoritmos de fato exercem grande poder sobre a capacidade de escolha de cada indivíduo. Exagero? Não!Os sistemas de IA são tecnologias baseadas em softwares que usam certas abordagens orientadas por dados para resolver problemas específicos. O que todos os sistemas de IA têm em comum é que eles reconhecem padrões em enormes quantidades de dados. Vale destacar que a inteligência artificial já está muito presente na vida de todos, com diversos aplicativos que facilitam nosso cotidiano na vida pessoal e profissional, em todas as áreas. Na saúde, em especial na Medicina, já tem se mostrado importante para o futuro, em todos as suas áreas: clínica, laboratorial e cirúrgica.A evolução desta tecnologia ganhou as manchetes de jornais e portais com a chegada do chamado ChatGPT. Recente matéria do New York Times publicizou que desde que a empresa OpenAI lançou a primeira versão gratuita do ChatGPT, no dia 30 de novembro passado, médicos já estavam usando o chatbot movido a inteligência artificial. Os profissionais da saúde previam que o ChatGPT e outros modelos de linguagem movidos a IA pudessem cuidar de tarefas como redigir encaminhamentos para convênios de saúde ou resumos dos prontuários de pacientes. Entretanto, os médicos estão utilizando a ferramenta para ajudá-los a se comunicar com os pacientes de maneiras mais compassivas. Assim, médicos estão usando para encontrar as palavras para transmitir más notícias ou expressar preocupação com o sofrimento de um paciente, ou apenas para explicar recomendações médicas mais claramente. Interessante esse uso da tecnologia, pois trata-se de uma questão mais emocional e pessoal do que técnica, mas isso demonstra que a inteligência artificial pode ser importante em vários aspectos da medicina mundial.No Brasil, a IA já é muito utilizada para medicina diagnóstica. Muitos hospitais possuem projetos e aplicações para treinar as máquinas para interpretar imagens, por exemplo, e assim conseguir multiplicar e acelerar os resultados. Também vem sendo utilizada em serviços de pronto-atendimento, com alguns scores que são feitos através de perguntas respondidas por médicos, enfermeiros e pacientes e que geram resultados formulados por esses padrões e condutas terapêuticas mais assertivas para o paciente. Diagnóstico precoce de alguns tipos de câncer (como o de mama) também já estão em curso no país com o auxílio da inteligência artificial.Conforme artigo no jornal The Lancet, em maio de 2019, a IA pode ser aplicada na proteção, por exemplo, analisando padrões de dados para vigilância quase em tempo real e detecção de doenças, com a utilização de pesquisas feitas pelos usuários no Google e informações de GPS para indicar restaurantes que estejam provocando a transmissão de doenças. Também poderá ser utilizada na promoção à saúde, ao se oferecer aconselhamento direcionado e personalizado com base no perfil de risco pessoal e padrões comportamentais, de forma gerar modelos de risco de doenças cardiovasculares; além, claro, de ser possível aumentar a eficiência dos serviços de saúde.Em recente artigo do Prof. Dr. Renato Marcos Endrizzi Sabbatini, foi descrita sua interação com o Chat GPT de forma a apresentar um caso real de uma doença rara, com o escopo de verificar se a ferramenta de fato representa uso adequado para a Medicina. Resumidamente, a conclusão foi a de que a ferramenta alcançou o diagnóstico preciso, após alguns segundos, em um caso com anos de espera para se firmar a mesma conclusão pelos médicos que atenderam aquela paciente. A ressalva do professor, porém, é a de que as referências não são fiáveis, sendo algumas, inclusive, inventadas pela ferramenta, o que claramente gera um alerta pois é essencial que se saiba a origem dos dados para haver credibilidade quanto às informações.[1]Se tantos dados são usados e se a IA apresenta tantas aplicações e implicações, se faz necessária a regulamentação para seu uso ético e seguro para todos, o que tem sido um desafio mundial.Em 2021 foi lançado pelo Parlamento Europeu um documento que se propõe a ser um Ato de regulamentação para o uso da Inteligência Artificial (Artificial Intelligence Act). No dia 14 de junho último, foi aprovado pelo Parlamento Europeu o AI Act (Lei da IA), inclusive proibindo as tecnologias que apresentam “um nível inaceitável de risco”, como ferramentas de policiamento preditivo ou sistemas de pontuação social, utilizados pela China, por exemplo, para classificar as pessoas com bases no comportamento e status socioeconômicos[2].Nos EUA, que estão bastante avançados em pesquisas para o uso de IA, não há uma lei federal que regulamente o tema, subsistindo, porém, diretrizes éticas emitidas pelo Federal Trade Commission (órgão responsável pela proteção de consumidores e da concorrência no país).Desta forma, o Brasil também avança no sentido de publicar um marco legal para a IA. O Congresso aprovou o PL 21/2020, em 2021, na Câmara dos Deputados. O texto estabelece princípios, direitos e deveres para o uso de inteligência artificial e está sendo analisado no Senado.É essencial a participação ativa de médicos e profissionais de saúde nas diretrizes do projeto, pois conhecem as aplicações, os potenciais riscos e benefícios da IA aplicada à saúde. Uma das disposições do texto é criação do relatório de impacto de IA, um documento elaborado pelos agentes de IA (inovação nesse PL) com a descrição da tecnologia, incluindo medidas de gerenciamento e contenção de riscos.[3]O que se pretende com a normatização é que o chamado marco legal da Inteligência Artificial não viole os direitos dos cidadãos. A discussão do tema é fundamental para dar maior transparência, equidade e também para direcionar a participação do Estado e da população na definição do arcabouço jurídico sobre o tema.O PL 21/2020 define princípios para a IA, como o da não discriminação, da finalidade benéfica ao ser humano. O texto traz ainda fundamentos ao desenvolvimento e aplicação da tecnologia, como estímulo a autorregulação, a livre manifestação de pensamento, a livre expressão e a proteção de dados pessoais.No setor da saúde especificamente, é essencial que se regulem essas novas ferramentas para se dar norte, transparência e equilíbrio sobre a utilização da IA, mas sem impedir que as inovações auxiliem médicos, profissionais e pacientes. Conseguiremos?*Sandra Franco é consultora jurídica especializada em Direito Médico e da Saúde, doutoranda em Saúde Pública, MBA-FGV em Gestão de Serviços em Saúde, diretora jurídica da Abcis, consultora jurídica da ABORLCCF, especialista em Telemedicina e Proteção de Dados, fundadora e ex-presidente da Comissão de Direito Médico e da Saúde da OAB de São José dos Campos (SP) entre 2013 e 2018.
