No entanto, é um problema sério quando os resumos deturpam as manchetes, e os casos extremos em que isso ocorre são, infelizmente, inevitáveis. A Apple não pode simplesmente corrigir esses resumos com uma atualização de software. As únicas respostas são ajudar os usuários a compreender as desvantagens da tecnologia para que possam fazer julgamentos mais bem informados ou remover ou desativar completamente o recurso. A Apple aparentemente está optando pela primeira opção.
Estamos simplificando um pouco aqui, mas geralmente, LLMs como aqueles usados para resumos de notificação da Apple funcionam prevendo porções de palavras com base no que veio antes e não são capazes de realmente compreender o conteúdo que estão resumindo.
Além disso, sabe-se que essas previsões não são precisas o tempo todo, com resultados incorretos ocorrendo algumas vezes a cada 100 ou 1.000 resultados. À medida que os modelos são treinados e melhorias são feitas, a porcentagem de erros pode ser reduzida, mas nunca chega a zero quando inúmeros resumos são produzidos todos os dias.
Implantar essa tecnologia em escala sem que os usuários (ou mesmo a BBC, ao que parece) realmente entendam como ela funciona é, na melhor das hipóteses, arriscado, seja com os resumos de manchetes de notícias do iPhone em notificações ou com os resumos de IA do Google no topo das páginas de resultados de mecanismos de pesquisa. Mesmo que a grande maioria dos resumos seja perfeitamente precisa, sempre haverá alguns usuários que verão informações imprecisas.
Esses resumos são lidos por tantos milhões de pessoas que a escala de erros sempre será um problema, quase não importa quão comparativamente precisos os modelos sejam.
Escrevemos longamente há algumas semanas sobre como o lançamento do Apple Intelligence parecia apressado, contrariando o foco habitual da Apple na qualidade e na experiência do usuário. No entanto, com a tecnologia atual, não há nenhum refinamento nesse recurso que a Apple poderia ter feito para atingir uma taxa de erro de zero por cento com esses resumos de notificação.
Veremos o quão bem a Apple faz ao fazer seus usuários entenderem que os resumos podem estar errados, mas fazer com que todos os usuários do iPhone realmente entendam como e por que o recurso funciona dessa maneira seria uma tarefa difícil.
