Apple e OpenEvidence iniciam estudo de um ano sobre confiança na IA de saúde do iPhone
Apple está lançando um estudo de um mês com a OpenEvidence para analisar como usuários dos EUA confiam, compreendem e agem diante de respostas de saúde geradas por IA no iPhone.
Traduzido do inglês. Ler o original
Principais pontos
- Apple inscreverá até 200 mil participantes nos EUA, maiores de 21 anos, que possuam iPhone 15 Pro ou mais recente.
- O estudo, desenvolvido com a OpenEvidence, terá duração mínima de um ano, com pesquisas mensais e compartilhamento opcional de dados do HealthKit.
- Todas as consultas dos usuários são anonimadas, excluídas após 24 horas e não serão usadas para treinar modelos de IA.
Apple anunciou neste domingo que está se associando à plataforma clínica de IA OpenEvidence para lançar o Health AI Usage Study, um esforço de pesquisa voltado a entender como americanos confiam e utilizam chatbots de saúde impulsionados por IA em seus iPhones. O estudo coletará dados sobre comportamento do usuário, compreensão das respostas da IA e percepção de qualidade das respostas, com o objetivo de orientar o design responsável de IA de saúde para a Apple e para a indústria como um todo.
Desenho do Estudo e Critérios de Participação
De acordo com a apresentação na conferência HLTH, o estudo aceitará até 200 mil participantes com idade mínima de 21 anos, que possuam iPhone 15 Pro ou mais recente e rodem iOS 26 com Apple Intelligence ativado. Os participantes acessarão o estudo por meio de um aplicativo desenvolvido pela OpenEvidence, ferramenta já utilizada por clínicos para assistência baseada em evidências de IA. A pesquisa se estenderá por mais de um ano, com uma enquete mensal que perguntará aos usuários sobre as etapas que tomam para sua saúde, o quanto compreendem as respostas da IA e quão úteis consideram essas respostas.
Coleta de Dados e Medidas de Privacidade
Apple enfatiza que quaisquer dados do HealthKit compartilhados — como frequência cardíaca em repouso, sono, atividade ou resultados de exames — permanecerão fora dos pipelines de treinamento de modelos. As consultas são anonimadas antes de serem enviadas para uma nuvem segura de terceiros, e a OpenEvidence exclui perguntas e respostas após 24 horas. Os participantes também podem optar por compartilhar respostas de pesquisas, mas todos os dados serão usados exclusivamente para pesquisa e não para aprimorar os modelos de IA da Apple.
Contexto e Implicações para a Indústria
A iniciativa surge em meio ao aumento do uso de chatbots de saúde; a OpenAI relatou que usuários fazem mais de 300 milhões de perguntas relacionadas à saúde semanalmente. A medida da Apple busca responder a preocupações de que ferramentas de saúde baseadas em grandes modelos de linguagem (LLM) podem fornecer informações incompletas ou confusas, ponto destacado por processos recentes que alegam conselhos prejudiciais de chatbots de IA. Ao vincular cada resposta da IA a citações revisadas por pares de revistas como Nature, NEJM e JAMA, o estudo pretende estabelecer um padrão de transparência e confiabilidade em IA de saúde.
O que observar a seguir
O primeiro lote de resultados das pesquisas mensais está previsto para o final deste ano, podendo revelar padrões de confiança dos usuários e o impacto dos dados de saúde pessoais na relevância das respostas. Observadores da indústria acompanharão se as descobertas da Apple influenciarão diretrizes regulatórias mais amplas para ferramentas médicas baseadas em IA e se outros fabricantes de dispositivos adotarão abordagens semelhantes baseadas em evidências.


Discussão 0