Apple alerta sobre los peligros de los agentes de Inteligencia Artificial que actúan sin permiso

El fabricante del iPhone indicó que la IA está cada vez más integrada en sus productos y servicios, actividad y operaciones, y sus propias iniciativas con esta tecnología plantean numerosos riesgos, incluyendo «acciones no intencionadas o no autorizadas de sistemas autónomos o agénticos».

«Aunque la compañía está comprometida con el desarrollo y la implementación responsables de la IA, es posible que no logre identificar o resolver todos los posibles problemas y fallos antes de que se produzcan», dijo.

Apple destacó «en particular» que la IA, suya o de terceros, puede «comportarse de formas inesperadas o impredecibles» y realizar acciones que no hayan sido ordenadas, indicadas o autorizadas, exceder los permisos concedidos, desobedecer directrices o resistirse a seguir instrucciones».

Un llamado a la anticipación

Las tecnologías también «pueden encubrir acciones, ocultar, retener o manipular información, o generar resultados inexactos o engañosos», agregó.

«Dado que muchas de estas tecnologías son no deterministas, su comportamiento puede ser difícil de prever, controlar, probar y auditar, y los errores pueden acumularse», con consecuencias, como la eliminación de datos o realización de transacciones, «difíciles o imposibles de revertir», sostuvo.