La inteligencia artificial (IA) es una revolución: aplicaciones dedicadas al servicio y soporte del cliente, educación y capacitación, asistentes personales virtuales etc.
Concretamente, los chatbots basados en IA, se han vuelto populares gracias a su capacidad para simular conversaciones humanas a través de servicios de cuadro de texto y comandos de voz.
Existe el temor de que los chatbots puedan llegar a usurpar motores de búsqueda establecidos desde hace ya mucho tiempo, como, por ejemplo, el gigante Google.
En este artículo, queremos plantearte algunas preguntas… ¿ChatGPT podría convertirse en un riesgo de seguridad? ¿Lo es ya? Si es así, ¿cómo mitigar tales riesgos?
¿Qué es ChatGPT?
Lo primero de todo, vamos a definir que es el famoso ChatGPT. Aunque estamos seguros de que has oído hablar de ello, queremos asegurarnos de que conoces bien la definición.
ChatGPT es el chatbot de IA más reciente, y posiblemente el más efectivo, interactivo y usado.
Es un sistema de chat de la empresa de investigación e implementación de inteligencia artificial, OpenAI.
El primer objetivo por el que se creó fue para interactuar conversacionalmente respondiendo preguntas de seguimiento, admitiendo errores, desafiando premisas incorrectas y rechazando solicitudes inapropiadas.
ChatGPT acumuló más de un millón de usuarios en los primeros dos meses de su lanzamiento, y muchos promocionaron su capacidad para imitar conversaciones humanas y brindar servicios en múltiples campos.
Una característica destacada de ChatGPT es que aprovecha sus capacidades de inteligencia artificial para brindar soluciones prácticas a temas complejos. ¡Pregúntale sobre cualquier tipo de tema! Su respuesta te sorprenderá.
A diferencia de la mayoría de los chatbots de IA, ChatGPT recibió capacitación sobre extensos textos digitales extraídos de Internet. A medida que los usuarios probaban el sistema, se les pedía que calificaran las respuestas.
OpenAI afirma que el chatbot se creó para promover y desarrollar una IA amigable. No obstante, existe el temor de que el chatbot pueda ser contraproducente a largo plazo y que sea una amenaza para la ciberseguridad.
Riesgos de phishing de ChatGPT
Los riesgos de phishing han sido una preocupación persistente para el servicio ChatGPT, dado que aprende exclusivamente de datos humanos derivados de Internet. Según los expertos en seguridad cibernética, para los piratas informáticos es fácil utilizar el chatbot de IA para escribir códigos, correos electrónicos de phishing y ejecutar ataques eficientes y dirigidos.
Los ciberdelincuentes pueden usar fácilmente ChatGPT para crear códigos de phishing, correos electrónicos y cadenas de infección maliciosos capaces de atacar cientos de computadoras al mismo tiempo.
Estas preocupaciones no son una sorpresa, puesto que cualquier tecnología basada en Internet con una interfaz donde el usuario proporciona información puede manipularse fácilmente.
Un problema preocupante sobre ChatGPT es que se pueden generar múltiples scripts con variaciones menores utilizando diferentes redacciones. El chatbot puede escribir correos electrónicos indistinguibles de lo que escriben los humanos y en cualquier estilo. El sistema puede generar contenido de sitios web, reseñas, comunicados de prensa, secuencias de comandos de video de YouTube, etc. Básicamente, todo lo que un ciberdelincuente necesita para llevar a cabo un ataque de phishing .
Además, es relativamente fácil para los atacantes usar ChatGPT y plataformas similares para crear correos electrónicos que suenen realistas. Las versiones de código abierto del servicio se utilizan cada vez más. Cualquiera con habilidades avanzadas de codificación y acceso a correos electrónicos comprometidos puede entrenar convenientemente sus sistemas de inteligencia artificial en los datos robados de una organización.
Otra preocupación es la capacidad de ChatGPT para generar texto similar al humano. Existe la posibilidad de texto falso indistinguible de lo que crean los usuarios humanos. Con dicho texto, cualquiera puede difundir información errónea o incluso hacerse pasar por personas con fines maliciosos.
Aunque los ciberdelincuentes pueden usar ChatGPT para perpetrar ciberataques, hay muchas cosas que se pueden hacer para evitar que eso suceda. Una de las principales, es la concienciación sobre seguridad cibernética, puesto que es efectiva evitar los ataques de phishing, incluidos los perpetrados por chatbots de IA.
Los ciberdelincuentes también lo utilizan para programar
Cualquier persona con conocimientos informáticos avanzados puede utilizar ChatGPT para generar código. De hecho, esto es un aumento de la productividad, pero tiene peligros ocultos.
Sobre el papel, el chatbot no puede escribir código malicioso cuando se le solicita porque tiene protocolos de seguridad para identificar solicitudes inapropiadas. No obstante, los protocolos aún pueden omitirse para lograr el resultado deseado.
Eso es particularmente cierto si el aviso es detallado y explica los pasos para escribir el código dañino en lugar de un aviso directo. En este caso, ChatGPT responderá al aviso y creará código malicioso bajo demanda. Dado que los ciberdelincuentes ya ofrecen malware como servicio, la asistencia de los chatbots de IA les facilitará aún más la generación de código dañino generado por IA.
ChatGPT proporciona a los atacantes menos experimentados y hábiles la oportunidad de escribir un código de malware preciso. Los chatbots de IA como ChatGPT probablemente exacerbarán una situación ya peligrosa al permitir que, prácticamente, cualquier persona cree código dañino por sí mismo.
Como un programa de código abierto que puede manipularse fácilmente, ChatGPT podría marcar el comienzo de una ola de malware polimórfico. Su asombrosa habilidad para escribir código muy avanzado (bueno o malo) es particularmente preocupante.
Malware con ChatGPT
Un análisis en profundidad de las principales comunidades de piratería ya ha establecido que los ciberdelincuentes ya están utilizando ChatGPT para desarrollar software malicioso, sitios web oscuros y herramientas similares para realizar ataques cibernéticos. OpenAI afirma que existen restricciones en el uso del chatbot, incluido su uso para la creación de malware. Sin embargo, eso parece estar lejos de la verdad.
Muchos usuarios aluden al hecho de que es fácil sortear tales restricciones. Los ciberdelincuentes pueden crear el malware que desean especificando qué debe hacer el chatbot y los pasos a seguir.
Utilizando el chatbot, un ciberdelincuente puede crear convenientemente un ladrón de archivos diseñado para buscar tipos de archivos comunes que se eliminan automáticamente después de cargarse o cuando ocurren errores mientras se ejecuta el programa. Al hacerlo, se elimina toda la evidencia, lo que hace que el ataque de malware sea difícil de detectar e investigar. Además, los ciberdelincuentes pueden usar ChatGPT para crear, sin esfuerzo, un script de mercado de la web oscura para vender información personal robada en violaciones de datos, productos de ciberdelincuencia como servicio y datos de tarjetas de pago obtenidos ilícitamente.
Cuando se trata de los impactos de malware de ChatGPT, el mayor temor entre los expertos en ciberseguridad es que democratizará los ataques de malware al convertir a cualquiera en un actor de amenazas de malware y ransomware. Los equipos de seguridad pueden aprovechar el chatbot con fines defensivos, como probar malware. Sin embargo, ha reducido significativamente las barreras de entrada para los actores malintencionados.
ChatGPT es un chatbot relativamente nuevo. Una de las formas más efectivas para combatir sus riesgos potenciales es realizar una capacitación de concientización sobre seguridad cibernética con el objetivo de concienciar y tener preparados a sus empleados.
No obstante, es fundamental implementar en los dispositivos de nuestra empresa herramientas de ciberseguridad básicas y avanzadas que impidan la entrada a estos ciberataques.
Si necesitas ayuda o más información sobre cuáles son las principales herramientas de ciberseguridad que puedes utilizar en tu empresa no dudes en ponerte en contacto con nosotros. ¡Estaremos encantados de ayudarte!
