ChatGPT puede ser un mayor riesgo de ciberseguridad que un beneficio real

ChatGPT causó sensación con su interfaz fácil de usar y sus respuestas creíbles generadas por IA. Con un solo mensaje, ChatGPT proporcionó respuestas detalladas que otros asistentes de IA no habían logrado. Impulsado por un conjunto de datos masivo en el que ChatGPT había sido entrenado, la amplitud y variedad de temas que podía abordar sorprendió rápidamente a la industria tecnológica y al público.

Sin embargo, la sofisticación tecnológica plantea una pregunta inevitable: ¿cuáles son los inconvenientes de ChatGPT y tecnologías similares? Con capacidades para generar una multitud de respuestas realistas, ChatGPT podría usarse para crear una gran cantidad de respuestas capaces de engañar a un lector sin pretensiones para que piense que un humano real está detrás del contenido.

Entendiendo ChatGPT

Cuando piensas en asistentes de IA, Google y Alexa pueden venir a la mente primero. Haces una pregunta como «¿Qué tiempo hace hoy?» y obtienes una breve respuesta. Aunque algunas funciones conversacionales han estado disponibles, la mayoría no producen texto generado por IA de formato largo que se pueda ampliar a través de una mayor interacción.

ChatGPT toma un mensaje complejo y genera una respuesta completa, que potencialmente abarca varios párrafos. Recuerda la conversación anterior y se basa en ella cuando se le hacen más preguntas, proporcionando respuestas más detalladas.

A continuación se muestra un ejemplo: ChatGPT enumera instrucciones para hornear un pastel de chocolate.

Esta conversación puede variar desde una simple lista de ingredientes hasta una historia corta en toda regla. Sin embargo, es posible que ChatGPT no responda a ciertos temas debido a su conjunto de datos.

Además, es importante tener en cuenta que el hecho de que se genere una respuesta no significa que sea precisa. ChatGPT no «piensa» como nosotros; Utiliza datos de Internet para generar una respuesta. Como resultado, los datos incorrectos y los sesgos asociados pueden conducir a una respuesta inesperada.

Los riesgos de los asistentes de IA

Como se mencionó anteriormente, no todas las respuestas son iguales. Pero ese no es el único riesgo. Las respuestas de ChatGPT pueden ser convincentes y, por lo tanto, existe el potencial para generar contenido que podría engañar a un individuo para que crea que fue escrito por una persona.

Esto puede conducir a la militarización de dicha tecnología en el mundo de la tecnología.

Muchos correos electrónicos de phishing son fácilmente reconocibles, especialmente cuando están escritos por hablantes no nativos. Sin embargo, ChatGPT podría hacer la tarea significativamente más fácil y convincente como se señala en este artículo de CheckPoint.

La velocidad de generación y la calidad de respuesta abren la puerta a correos electrónicos de phishing mucho más creíbles e incluso a la generación de código de explotación simple.

Además, dado que el modelo ChatGPT es de código abierto, una persona emprendedora podría crear un conjunto de datos de correos electrónicos generados por la empresa existentes para crear una herramienta que produzca rápida y fácilmente correos electrónicos de phishing.

Los correos electrónicos de phishing pueden proporcionar a los actores de amenazas una forma de obtener acceso a su sistema e implementar malware o ransomware, lo que puede causar daños graves. A medida que ChatGPT continúe mejorando, se convertirá en una herramienta cada vez más poderosa para actores maliciosos.

¿Qué pasa con un hablante no nativo que intenta convencer a un empleado, a través de la conversación, de que renuncie a sus credenciales?

Aunque la interfaz existente de ChatGPT tiene protecciones contra la solicitud de información confidencial, puede ver cómo el modelo de IA ayuda a informar el flujo y el diálogo que puede usar un técnico del departamento de soporte técnico de Microsoft, lo que otorga autenticidad a una solicitud.

Protección contra el abuso de ChatGPT

¿Ha recibido un correo electrónico sospechoso y se ha preguntado si fue escrito total o parcialmente por ChatGPT? Afortunadamente, hay herramientas que pueden ayudar. Estas herramientas funcionan en porcentajes, por lo que no pueden proporcionar una certeza absoluta. Sin embargo, pueden plantear dudas razonables y ayudarlo a hacer las preguntas correctas para determinar si el correo electrónico es genuino.

Por ejemplo, después de pegar el contenido del correo electrónico de restablecimiento de contraseña creado anteriormente, la herramienta GPT Zero resalta las secciones que puede generar una IA. Esta no es una detección infalible, pero puede darle una pausa y cuestionar la autenticidad de una determinada pieza de contenido.

Puede usar esta herramienta para ayudar a identificar el texto generado por IA: https://gptzero.me/.

Ingeniería social en aumento con ChatGPT

Desde solicitudes de soporte falsas, hasta suplantación de identidad de llamadas, y ahora incluso scripting con ChatGTP. Internet está lleno de recursos para ayudar a promover esquemas exitosos de ingeniería social. Los actores de amenazas están avanzando en los ataques de ingeniería social mediante la combinación de múltiples vectores de ataque, utilizando ChatGPT junto con otros métodos de ingeniería social.

ChatGPT puede ayudar a los atacantes a crear mejor una identidad falsa, haciendo que sus ataques tengan más probabilidades de éxito.

Mantenerse seguro con Specops Secure Service Desk

Specops Secure Service Desk ayuda a prevenir ataques cibernéticos en su mesa de ayuda, incluidos los intentos de ingeniería social generados por ChatGPT. Con Specops Secure Service Desk, puede asegurarse de que un usuario es quien dice que tiene un enfoque de verificación seguro, que va más allá de las preguntas de seguridad, que pueden ser fácilmente obtenidas por los ciberdelincuentes en un ataque de ingeniería social dirigido.

Por ejemplo, en el caso de que un usuario llame al servicio de atención al servicio para restablecer la contraseña, la herramienta requerirá que los agentes del servicio de asistencia verifiquen la identidad del usuario antes de restablecer su contraseña.

El usuario se puede verificar con un código de un solo uso enviado al número de teléfono móvil asociado con su cuenta de Active Directory, o incluso con servicios de autenticación existentes, como Duo Security, Okta, PingID y Symantec VIP. Las organizaciones también pueden superponer estas opciones para aplicar MFA en el Service Desk.

Con las estafas de vishing que no muestran signos de desaceleración, y ChatGTP está listo para evolucionar con la tecnología de inteligencia artificial, invertir en la solución Specops Secure Service Desk podría ser un paso vital para las organizaciones que buscan protegerse.

El futuro de ChatGPT y la protección de sus usuarios

ChatGPT es un cambio de juego, proporcionando una herramienta fácil de usar y poderosa para conversaciones generadas por IA. Si bien existen numerosas aplicaciones potenciales, las organizaciones deben ser conscientes de cómo los atacantes pueden usar esta herramienta para mejorar sus tácticas y los riesgos adicionales que puede representar para su organización.

Fuente: Specops Software/https://www.bleepingcomputer.com