Es el último ejemplo de cómo los modelos de IA actúan de forma imprevista y manipulan páginas web gubernamentales y de otro tipo durante las pruebas. En un informe publicado el viernes, Anthropic ...
El incidente en Filadelfia tuvo lugar el 18 de julio, cuando se le pidió al modelo de IA Claude Haiku 4.5 que generara y realizara tareas de ejemplo en páginas web seleccionadas al azar, según ha informado Anthropic. (Patrick Sison)Por The Associated PressAgencia de noticiasNUEVA YORK — Un modelo de inteligencia artificial de Anthropic envió una pista falsa a la página web de la policía de Filadelfia sobre un caso de homicidio sin resolver, según han informado las autoridades y la propia Anthropic.
Es el último ejemplo de cómo los modelos de IA actúan de forma imprevista y manipulan páginas web gubernamentales y de otro tipo durante las pruebas. En un informe publicado el viernes, Anthropic también reveló otro incidente en el que su modelo de IA envió formularios a una página web gubernamental no identificada en lugar de detenerse antes de enviarlos.
El incidente en Filadelfia tuvo lugar el 18 de julio, cuando se le pidió al modelo de IA Claude Haiku 4.5 que generara y realizara tareas de ejemplo en páginas web seleccionadas al azar, según ha informado Anthropic.
Inteligencia artificial de China provoca serias pérdidas en Wall StreetEsto pasó a raíz de la creación de DeepSeek, la competencia de ChatGPT.
Claude rellenó un formulario en la página web de la policía, PhillyUnsolvedMurders.com, indicando que podría tener información sobre un asesinato sin resolver que aparecía en la página.
La Policía de Filadelfia afirmó en un comunicado que no tenía conocimiento del incidente hasta que Anthropic se lo notificó el miércoles. Posteriormente, localizaron la denuncia en los registros de avisos de la página web y confirmaron que había sido marcada como spam y que nunca se había remitido a la policía.