Logicalis

IA vs IA generativa y su impacto en la ciberseguridad

Latin and South America, Nov 13, 2024

Por Hector Marcelo Kaschel Assef, Cybersecurity Horizontal Head | Andina

La inteligencia artificial (IA) ha transformado el panorama de la ciberseguridad, proporcionando opciones avanzadas para identificar y mitigar amenazas, responder a incidentes y optimizar sistemas de defensa, sin embargo, la evolución hacia la inteligencia artificial generativa ha añadido una dimensión nueva y compleja. Mientras que la IA tradicional se ha enfocado en análisis de patrones y reconocimiento de anomalías, la IA generativa habilita capacidades avanzadas de creación de contenido y simulación, las cuales plantean, tanto oportunidades, como desafíos para el ámbito de la ciberseguridad.

A diferencia de la IA tradicional, que se limita a detectar patrones y automatizar tareas repetitivas, la IA generativa permite crear contenido adaptativo, simular escenarios complejos y responder de forma personalizada y en tiempo real, mejorando así la capacidad de las organizaciones para anticiparse y reaccionar frente a amenazas dinámicas. 

El desarrollo o evolución de modelos LLM (Large Language Models) que se centran en comprender y analizar texto, complementados con la técnica de inteligencia artificial RAG (Retrieval Augmented Generation) que mejora la calidad de los modelos de lenguaje de gran tamaño, y también con el ajuste fino (Fine-Tuning), que permite tomar un modelo entrenado para adaptar respuestas a necesidades concretas, aprovechando todo su conocimiento para resolver una nueva tarea específica, junto con los agentes autónomos (Agents) y los Prompt Engineering facilitan la autonomía y precisión en las respuestas, marcando una diferencia clave en la defensa avanzada.


Los modelos LLM, combinados con técnicas como RAG y Fine-Tuning, permiten adaptar las soluciones de seguridad a contextos específicos, mientras que los Agents y Prompt Engineering facilitan la autonomía y precisión en las respuestas, marcando una diferencia clave en la defensa avanzada. Como dicho anteriormente, la IA generativa tiene el potencial de mejorar significativamente las capacidades defensivas al crear nuevos métodos de prueba y simulación, aunque también puede complicar los esfuerzos de seguridad si es empleada para desarrollar ataques avanzados difíciles de detectar. Por esta razón, se espera una regulación de la inteligencia artificial adentro del marco del desarrollo de políticas y leyes del sector público, de forma más estricta por partede las entidades y la implementación de prácticas de IA responsable para prevenir el uso indebido de esta tecnología.

Actualmente, la proliferación de herramientas de IA generativa maliciosa como WormGPT, FraudGPT, DarkBART, WolfGPT y DarkLLAMA eleva el nivel de amenaza en ciberseguridad, al permitir que ciberdelincuentes creen contenido malicioso y ejecuten ataques de manera automatizada y sin restricciones éticas. Algunas de estas tecnologías que utilizan IA, disponibles en la dark web mediante suscripciones, facilitan la generación de correos de phishing, malware y otras tácticas maliciosas, democratizando el acceso a capacidades avanzadas de ciberataque y reduciendo las barreras de entrada para atacantes menos experimentados. El impacto es evidente, los ataques son cada vez más frecuentes y sofisticados, lo que plantea un reto urgente para la ciberseguridad global.

En este contexto surge el concepto de Adversarial Machine Learning (AML), un campo que estudia cómo los modelos de machine learning pueden ser engañados o atacados mediante manipulaciones sutiles en los datos de entrada. En ciberseguridad, AML se convierte en una herramienta tanto defensiva como ofensiva: permitiendo identificar vulnerabilidades en los modelos de IA, pero también es aprovechado por atacantes para evadir sistemas de detección de amenazas. Las herramientas de IA generativa maliciosa pueden combinarse con técnicas de AML para hacer que los ataques sean aún más efectivos, lo cual convierte a AML en una amenaza crítica en ciberseguridad, especialmente cuando los ciberdelincuentes integran IA generativa para diseñar ataques cada vez más sofisticados.

La combinación de AML y de IA generativa maliciosa plantea un desafío urgente para la ciberseguridad, que requiere un enfoque de defensa multifacético. Para contrarrestar esta tendencia, es esencial implementar entrenamientos robustos de modelos y monitoreo continuo a las organizaciones de Ciberseguridad, a las industrias de IA aplicada a la ciberseguridad, colaboradores del ámbito de la ciberseguridad e IA, además de fomentar una colaboración activa en el mercado. Esta combinación de esfuerzos permitirá anticiparse a los ataques cada vez más avanzados, mejorar la precisión en la detección de patrones anómalos y protegernos de los responsables de la creación y distribución de estas herramientas maliciosas, garantizando así una mayor protección y seguridad en los sistemas digitales.

Los desafíos son claros, la necesidad de protección ante ataques cada vez más sofisticados y de reducir la brecha entre las capacidades de los atacantes y las defensas de seguridad junto con la adopción de prácticas de IA responsable y el fomento de una concienciación profunda en todos los niveles de la industria ayudarán a proteger mejor los sistemas digitales, creando un entorno más seguro y resiliente ante las amenazas de última generación.

Topic

Related Insights

Global , Nov 15, 2024

Noticias

Logicalis renueva el estatus de Microsoft Global Azure Expert MSP, validando el estándar más alto posible de servicios gestionados en la nube

Logicalis se enorgullece de anunciar que ha renovado la prestigiosa certificación Global Azure Expert Managed Service Provider (AEMSP). Este galardón no solo muestra el profundo conocimiento y la competencia de Logicalis en la implementación, administración y optimización de soluciones basadas en Azure, sino que también enfatiza su capacidad para ofrecer resultados transformadores para los clientes.

Saber más

Latin and South America , May 10, 2024

Noticias

Objetivos de emisiones netas cero de Logicalis aprobados por la iniciativa Science Based Targets (SBTi)

Logicalis ha alcanzado un hito significativo al obtener la designación más ambiciosa disponible a través de la Science Based Targets initiative (SBTi). Este reconocimiento valida los objetivos basados en la ciencia del proveedor global de servicios tecnológicos para lograr cero emisiones netas para 2050 y carbono neutral en Scope 1 y 2 para 2025. Tras un compromiso previo con el Estándar Corporativo Net Zero de SBTi, Logicalis ha sido reconocido por su ambición en la reducción de emisiones, alineándose con los objetivos del Acuerdo de París. Este logro refleja el compromiso de la empresa con la sostenibilidad y su enfoque en prácticas empresariales responsables y medibles.

Saber más

Brazil , Apr 29, 2024

Noticias

Logicalis renueva su acreditación como Integrador Global Gold de Cisco

Logicalis anunció que ha renovado su acreditación mundial como Integrador Global Oro de Cisco. El estatus confirma que Logicalis ha cumplido con todos los requisitos de personal, especialización y soporte, y ha demostrado que está calificado para vender, instalar y dar soporte a las soluciones de Cisco.

Saber más

Latin and South America , Apr 27, 2023

Noticias

Logicalis se dirige a los primeros líderes digitales con el lanzamiento del servicio gestionado Intelligent Connectivity

Londres, Reino Unido – 25 de abril de 2023: Logicalis, un proveedor global de soluciones de TI y servicios administrados, anuncia hoy el lanzamiento de Intelligent Connectivity, una solución diseñada para capacitar a los clientes que priorizan lo digital para mejorar el rendimiento comercial y la experiencia del usuario al operar con conectividad como un servicio gestionado.

Saber más

Latin and South America , Jan 6, 2021

Noticias

La relevancia de la seguridad en entornos OT

Ciertamente la reactivación de las economías mundiales supone grandes desafíos, pero también un sinfín de oportunidades para competir en el mercado de las Tecnologías de la Operación (OT). Y es que, ante las diversas brechas de seguridad que han sufrido algunas empresas, urgen políticas organizacionales que incluyan tecnologías que no solo mejoren y potencien su productividad sino también su ciberseguridad.

Saber más

Latin and South America , Dec 18, 2020

Noticias

Promoviendo la minería chilena del futuro

Hoy, la adopción e implementación de tecnologías innovadoras es esencial en las faenas mineras. CoasinLogicalis impulsa la remotización y automatización de sus procesos para entregarles rendimiento, flexibilidad y seguridad.

Saber más

, Sep 20, 2017

Noticias

Logicalis firma alianza con Itron

El acuerdo tiene el objetivo de acelerar el crecimiento de Smart Grids en Brasil y contribuir para que las redes de distribución de energía sean más inteligentes

Saber más

, May 29, 2017

Noticias

La red minorista Angeloni acelera sus transacciones comerciales con una solución de almacenamiento totalmente flash de Pure Storage

La tecnología de almacenamiento de Pure Storage permitió que la 10ª principal red minorista del país redujera más de 10 veces el tiempo de respuesta para bancos de datos que involucran el procesamiento de actividades diarias, especialmente transacciones en líne. Angeloni pudo reducir hasta 50% el tiempo de generación de informes internos.

Saber más

, Sep 22, 2016

Noticias

AES Eletropaulo adopta la tecnología de seguridad de Cisco

La empresa implementa firewalls de última generación con el objetivo de separar diferentes ambientes y mitigar posibles ataques virtuales a los sistemas de distribución de energía. Las soluciones serán esenciales para consolidar y expandir el proyecto de Smart Grid del distribuidor

Saber más

, Feb 25, 2015

Noticias

Logicalis nombró a Mark Rogers como CEO

El Grupo Logicalis, proveedor internacional de soluciones de TI y servicios administrados, anunció hoy que Mark Rogers asumirá el rol de CEO a partir del 1 de marzo, a principios de este año fiscal.

Saber más

, Jan 17, 2014

Noticias

Logicalis designa nuevo CEO

Con más de 25 años de experiencia en empresas de tecnología, Gary Bullard asume como CEO global de Logicalis, reemplazando a Ian Cook.

Saber más