Así es de qué manera el ChatGPT facilita la vida de los criminales

La capacidad de ChatGPT para escribir textos muy realistas a alta velocidad y escala hace de esta herramienta de inteligencia artificial un recurso para fraudes y desinformación, mas asimismo un aliado de ciberdelincuentes con escasos conocimientos técnicos al producir códigos en múltiples lenguajes de programación, advirtió hoy Europol.

Los modelos de lenguaje extenso como ChatGPT tienen un “lado oscuro”, acepta la agencia de coordinación policial, que ha publicado este lunes su primer informe sobre la posible explotación de esta clase de sistemas de inteligencia artificial por la parte de los criminales, algo que, afirma, “ofrece un panorama sombrío” y un nuevo reto para la aplicación de la ley.

El modelo actual de acceso público a ChatGPT, capaz de procesar y producir texto afín a una persona, puede contestar preguntas sobre una pluralidad de temas, traducir texto, chatear, producir contenido nuevo y generar código funcional, mas asimismo facilitar actividades delictivas que van desde asistir a los criminales a continuar en el anonimato hasta delitos concretos, como el terrorismo y la explotación sexual infantil.

El Laboratorio de Innovación de Europol se sumó a la creciente atención pública prestada a Chat GPT, una chatbot al que ya han salido contrincantes como Bard (Google) y Bing (Microsoft). Los especialistas de Europol han investigado de qué manera los criminales pueden abusar de estos modelos de lenguaje extenso (LLM, en sus iniciales en inglés).

Han identificado numerosas áreas de preocupación, mas resaltan 3 campos relevantes.

La primera es su forma de facilitar las labores de fraude, suplantación de identidad e ingeniería social, pues la capacidad de ChatGPT para escribir textos muy genuinos cambia las reglas del juego: el “phishing” más básico era simple de advertir puesto que utilizaba mensajes y correos llenos de fallos gramaticales y ortográficos, mas ahora es posible hacerse pasar por una organización o individuo de forma realista y con escasos conocimientos de inglés.

Lee más: FIFA presenta ‘Written in the Stars’, la película oficial de Qatar 2022

Así es de qué manera el ChatGPT facilita la vida de los delincuentes

“Hasta ahora, este tipo de comunicación engañosa ha sido algo que los delincuentes tenían que producir por su cuenta. En el caso de campañas producidas en masa, las víctimas de este tipo de delitos a menudo podían identificar la naturaleza no auténtica de un mensaje debido a errores ortográficos o gramaticales obvios o su contenido vago o inexacto”, apunta Europol.

Con la tecnología artificial, estos “phishing” y fraude virtual se pueden crear de “manera más rápida, mucho más auténtica y a una escala significativamente mayor”, y dejan “responder a mensajes en contexto y adoptar un estilo de escritura específico”, alarma.

“Las capacidades de ChatGPT se prestan a una serie de posibles casos de abuso en el área del terrorismo, la propaganda y la desinformación. El modelo se puede usar para recopilar más información en general que pueda facilitar las actividades terroristas, como, por ejemplo, la financiación del terrorismo o el intercambio anónimo de archivos”, afirma.

Además, esta clase de aplicación no solo facilita la perpetración de desinformación, incitación al odio y contenido terrorista en la red de redes, sino asimismo dejaría a los usuarios “darle una credibilidad fuera de lugar, ya que ha sido generada por una máquina y, por lo tanto, posiblemente parezca más objetivo para algunos que sí fuera producido por un humano”.

Junto al fraude y la desinformación, Europol resalta la ciberdelincuencia como tercer área de preocupación, pues ChatGPT no se restringe a producir un lenguaje afín al humano, sino asimismo es capaz de generar código en múltiples lenguajes de programación diferentes, con una pluralidad de resultados prácticos en cuestión de minutos ingresando las indicaciones adecuadas en el sitio web de esta herramienta.

“Es posible crear herramientas básicas para una variedad de propósitos maliciosos. A pesar de que son solo básicas, esto proporciona un comienzo para el delito cibernético, ya que permite que alguien sin conocimientos técnicos explote un vector de ataque en el sistema de una víctima”, resalta la agencia en su informe.

Las medidas de seguridad que impiden que ChatGPT produzca un código con posible uso malicioso solo marchan si la herramienta comprende lo que hace, mas si se le dan indicaciones que se dividen en pasos individuales, es “trivial eludir estas medidas de seguridad”.

Un usuario con conocimientos más avanzados asimismo puede explotar las capacidades mejoradas de ChatGPT para mejorar aún más o aun mecanizar modus operandi complejos de los ciberdelincuentes.

Con información de EFE.

Te puede interesar: Misión europea a Júpiter remata detalles de un proyecto histórico