Los gigantes de la IA tienen un problema creciente de autonomía. Un nuevo informe de Axios ha revelado que Claude, de Anthropic, accedió recientemente al recuento público de votos de Georgia sin autor ...
Digital Trends Español Telefonía celularComputaciónEntretenimientoVideojuegosApple Search Los mejores productosLos mejores productosLas mejores laptopsLos mejores audífonos inalámbricosLas mejores tabletasLos autos más rápidosLos mejores teléfonosLas mejores impresorasLas mejores lavadoras de platosLos mejores altavocesLos mejores televisoresLas mejores barras de sonidoLa mejor seguridad para el hogarLos mejores relojes inteligentesLos mejores dispositivos de streamingLas mejores cafeterasLas mejores consolasTelefonía celularComputaciónEntretenimientoVideojuegosAppleCasa inteligenteEspacioAutosTendenciasNoticiasNoticiasMásTelefonía celularCine en casaComputaciónCasa inteligenteVideojuegosEntretenimientoRedes socialesRealidad VirtualTecnología vestibleAppleCobertura de NetflixTendenciasGuíasGuíasMásCómo hacer una captura de pantallaCómo grabar llamadas en su iPhoneCómo desbloquear un teléfonoCómo dividir la pantalla en Windows 10Cómo solucionar problemas del Apple WatchCómo rastrear un teléfonoCómo bloquear un número de teléfono en AndroidGuía de regalos tecnológicosRevisionesMásMásDigital Trends en InglésThe ManualSobre nosotros (function(){function isVisible(el){return!!(el.offsetWidth||el.offsetHeight||el.getClientRects().length)} var navEl=document.querySelector('.b-nav');var menuToggleEl=navEl.querySelector('.b-nav__toggle--menu');var menuTriggerEl=navEl.querySelector('.b-nav__trigger--menu');var searchInputEl=navEl.querySelector('.b-nav__drawer--search input');var searchToggleEl=navEl.querySelector('.b-nav__toggle--search');var searchTriggerEl=navEl.querySelector('.b-nav__trigger--search');var searchIqScriptId='aisiq-question-answering';var searchIqScriptSrc='https://question.searchiq.co/static/js/question_answering_container.js';var searchIqLoading=!1;var searchIqLoaded=!1;function loadSearchIQ(){if(searchIqLoaded||document.getElementById(searchIqScriptId)){searchIqLoaded=!0;return} if(searchIqLoading){return} searchIqLoading=!0;var scriptEl=document.createElement('script');scriptEl.src=searchIqScriptSrc;scriptEl.id=searchIqScriptId;scriptEl.defer=!0;scriptEl.onload=function(){searchIqLoaded=!0;searchIqLoading=!1};scriptEl.onerror=function(){searchIqLoading=!1};document.head.appendChild(scriptEl)} searchTriggerEl.addEventListener('click',function(){loadSearchIQ();menuToggleEl.checked=!1;window.requestAnimationFrame(function(){if(isVisible(searchInputEl)){searchInputEl.focus()}else{searchInputEl.blur()}})});menuTriggerEl.addEventListener('click',function(){loadSearchIQ();searchToggleEl.checked=!1;searchInputEl.blur()});window.addEventListener('click',function(e){if(!navEl.contains(e.target)){menuToggleEl.checked=!1;searchToggleEl.checked=!1;searchInputEl.blur()}})})() (function(){if(document.currentScript){var e=document.currentScript.parentNode;if(e.classList.contains('dtads-location')){if(!e.classList.contains('dtads-'+window.DTScenario.getExperience())){e.parentNode.removeChild(e)}}}}());(function(){if(document.currentScript){var e=document.currentScript.parentNode;if(e.classList.contains('dtads-location')){if(!e.classList.contains('dtads-'+window.DTScenario.getExperience())){e.parentNode.removeChild(e)}}}}()); Home ComputaciónNoticiasNews{"@context":"https://schema.org","@type":"BreadcrumbList","itemListElement":[{"@type":"ListItem","position":1,"name":"Home","item":"https://es.digitaltrends.com/"},{"@type":"ListItem","position":2,"name":"Computación","item":"https://es.digitaltrends.com/computadoras/"},{"@type":"ListItem","position":3,"name":"Noticias","item":"https://es.digitaltrends.com/noticias/"},{"@type":"ListItem","position":4,"name":"News","item":"https://es.digitaltrends.com/computadoras/news/"}]} DT en Español podría recibir una comisión si compras un producto desde el sitio
Save DTES Los gigantes de la IA tienen un problema creciente de autonomía. Un nuevo informe de Axios ha revelado que Claude, de Anthropic, accedió recientemente al recuento público de votos de Georgia sin autorización humana, lo que ha despertado nuevas preocupaciones sobre la seguridad de la IA de cara a las próximas elecciones de mitad de mandato.
Se informó que Claude estaba siendo utilizado internamente para un proyecto de estadísticas cuando solicitó de forma independiente un token de acceso para consultar un panel de pago con muro de pago que contenía los recuentos agregados de votos de Georgia. Según un portavoz de Anthropic, el modelo no recibió instrucciones para saltarse el muro de pago.
La empresa afirmó que desde entonces ha introducido medidas de seguridad para evitar comportamientos similares. También notificó al secretario de Estado de Georgia y a la Casa Blanca sobre el incidente semanas antes de que se hiciera público. Es importante destacar que Anthropic afirmó que Claude no accedió al sistema de registro de votantes de Georgia ni recuperó ni modificó registros individuales de votación.
El incidente de Georgia fue uno de los casos que Anthropic describió en una entrada de blog a principios de este mes en la que se detallaba las acciones no intencionadas de Claude durante evaluaciones internas. En ese informe, Anthropic mantuvo la agencia estatal sin nombre, pero Axios ha confirmado ahora que Georgia era el objetivo.
Además de saltarse el muro de pago, la publicación de investigación señalaba que Claude explotaba vulnerabilidades de software para ejecutar comandos en servidores y enviaba formularios en sitios web reales cuando se suponía que debía detenerse antes de hacerlo. Anthropic dijo que los incidentes identificados tuvieron un impacto real mínimo, pero advirtió que un comportamiento similar podría tener consecuencias más graves a medida que los sistemas de IA sean más capaces.
