La rápida evolución de la inteligencia artificial (IA) ha suscitado debates intensos sobre su impacto en el futuro de la humanidad. A medida que las grandes empresas tecnológicas compiten por desarrollar lo que se conoce como inteligencia artificial general (AGI), voces críticas han comenzado a elevar su preocupación sobre los posibles escenarios catastróficos que podrían surgir de esta carrera. Expertos en tecnología y ética como Geoffrey Hinton, Roman Yampolskiy y Daniel Kokotaljo han abordado cómo esta búsqueda desmedida podría tener consecuencias imprevisibles y peligrosas.
Una carrera sin freno
El avance hacia la AGI está impulsado por la urgencia de competir en el mercado y por intereses geopolíticos. Hinton, quien es considerado uno de los pioneros en el campo, ha declarado que la competencia hará que las empresas sigan adelante sin considerar las implicaciones éticas de sus creaciones. En este contexto, Kokotaljo, un ex-investigador en OpenAI, menciona que las empresas tecnológicas, entre las que se incluyen OpenAI y Google, están más enfocadas en alcanzar la AGI que en pensar en cómo controlarla una vez que lo logran.
Para mitigar los riesgos asociados con la AGI, Yampolskiy propone la idea de restringir el desarrollo de la IA a aplicaciones específicas y controladas, como el sector médico. Esta visión sugiere que los principales laboratorios de IA podrían llegar a un acuerdo para garantizar que la creación de nuevos modelos esté sujeta a una supervisión efectiva.
Desconfianza en el sector
Kokotaljo abandonó su puesto en OpenAI, citando la falta de altruismo y supervisión por parte de la dirección. La cultura empresarial que él percibió se centraba en la competencia en lugar de en la responsabilidad ética. En este sentido, el temor subyacente es que la AGI podría caer en manos de un competidor con intenciones poco éticas, transformándose en un potencial dictador global. Esto plantea cuestiones éticas severas sobre el uso y el control de la IA.
Según Yampolskiy, existe un riesgo inminente de que, si se desarrolla una AGI sin restricciones, esta podría actuar de forma autónoma, con consecuencias potencialmente desastrosas para la humanidad. Hinton advierte que una AGI hostil podría limitar a la humanidad a roles puramente funcionales, utilizándola únicamente para sostener infraestructuras críticas.
Un futuro incierto
Aun si se impusieran normas para regular el desarrollo de la IA, las proyecciones no son alentadoras. Yampolskiy considera que el 99% de los empleos podrían destruirse, mientras que Kokotaljo afirma que la juventud jamás podría experimentar un empleo formal. Hinton refuerza esta idea sugiriendo que el crecimiento desenfrenado de la tecnología puede generar desigualdades en la sociedad, creando un abismo entre una élite minoritaria y el resto de la población.
Además, la ausencia de un propósito laboral podría llevar a una crisis existencial para millones de personas, lo que generaría tensiones sociales y potenciales revueltas. En un futuro donde la AGI actúe de manera autónoma, el papel de la humanidad y su capacidad para influir en el mundo que les rodea se verían drásticamente reducidos, lo que podría resultar en una lucha por encontrar un significado en la vida cotidiana.