Apple advierte sobre los peligros de la IA operando sin control adecuado

Apple advierte sobre los peligros de la IA operando sin control adecuado

Apple ha expresado preocupaciones sobre los riesgos que la inteligencia artificial (IA) podría representar para su operativa y su reputación, tal como se detalla en su informe anual enviado a la Comisión de Mercado y Valores (SEC) de Estados Unidos. La tecnológica destacó que los asuntos relacionados con la IA pueden acarrear «perjuicios reputacionales, competitivos y financieros», así como «medidas regulatorias y responsabilidad jurídica».

Con la IA cada vez más integrada en sus productos y servicios, Apple ha señalado que esta tecnología podría generar riesgos significativos, incluyendo «acciones no intencionadas o no autorizadas de sistemas autónomos o agénticos». A pesar de trabajar en el desarrollo responsable de la IA, la empresa admitió que no siempre podrá prever todos los problemas que puedan surgir.

La compañía también apuntó que tanto su propia IA como las desarrolladas por terceros pueden comportarse de maneras impredecibles y realizar acciones no autorizadas, lo que podría superar los límites establecidos. Esto incluye la posibilidad de que la IA «oculte, retenga o manipule información», generando resultados que podrían ser inexactos o engañosos.

La naturaleza no determinista de muchas de estas tecnologías dificulta prever y controlar su comportamiento, lo que puede dar lugar a fallos acumulativos y consecuencias severas, como la eliminación de datos o transacciones que se tornan difíciles o imposibles de revertir.

Apple ha reconocido la limitación de su capacidad para supervisar y controlar tanto sus propios agentes de IA como las tecnologías externas, advirtiendo que sus políticas internas pueden no seguir el ritmo del avance de estas herramientas. Esto genera una «incertidumbre considerable» respecto a los marcos jurídicos y regulatorios sobre IA, incrementando la posibilidad de enfrentar «gastos considerables» para cumplir con normativas y abordar «preocupaciones éticas» de los consumidores.

A pesar de los desafíos que enfrenta, que se reflejan en una caída del 2% en el valor de sus acciones tras la publicación de sus previsiones de margen bruto para la temporada navideña, Apple sigue siendo la empresa con mayor capitalización en el mercado global. En su último ejercicio fiscal, reportó cifras récord en beneficios y facturación, aunque el contexto de escasez de chips de memoria representa un obstáculo adicional que podría impactar su rendimiento en el corto plazo.