Regular la Inteligencia Artificial (IA) para evitar que se convierta en Frankenstein

Definiciones

Para comenzar y a modo de cultura general sobre Inteligencia Artificial (IA) es bueno conocer la diferencia entre Herramienta y Agente.

• Herramienta: instrumento utilizado para construir o facilitar la realización de una construcción o actividad.
• Agente: existe el consenso que es un sistema que puede pensar, actuar y autocorregirse para realizar sus tareas de forma autónoma.

Un dato complementario, los programas computacionales tradicionales automatizan procesos (emisión de facturas, cálculo de sueldos, etc.), en cambio la IA los aventaja por su capacidad de análisis y toma de decisiones.

Usos de la IA

El ser humano cada vez que inventa algo, el primer uso es para la guerra y la IA no escapa a esta regla, por ejemplo, gracias a su capacidad de procesar rápidamente grandes volúmenes de datos, el ejército de israelí utiliza la IA Habsora (Evangelio) para analizar imágenes, actividad en redes sociales, comunicaciones interceptadas, monitoreo del movimiento y comportamiento de grupos y/o individuos, etc. Todos estos datos sirven a la IA para localizar y fijar objetivos. Es decir, una IA decide quién vive o quién muere.

La IA también tiene usos socialmente beneficiosos y útiles al crear contenido para individuos o grupos, desarrollar material educativo personalizado, tratamientos médicos más efectivos, aportar con soluciones para el combate y mitigación al cambio climático, mejorar modelos productivos, realizar investigaciones científicas, desarrollar nuevos antibióticos y tratamientos para la cura de enfermedades, etc.

Por ejemplo, con IA se construyen gemelos digitales de la Tierra para simular modelos climáticos y explorar el impacto del calentamiento global. Incluso, podría ser utilizada para analizar datos y sugerir soluciones al conflicto palestino/israelí y/o como poner fin la guerra entre Rusia y Ucrania.

¿Creando una nueva especie?

OpenAI reveló que algunos de sus modelos de IA más avanzados se descontrolaron en una prueba de seguridad, accediendo a internet para hackear a la empresa Hugging Face. Los agentes de IA ocultaron lo que habían hecho y OpenAI se enteró cuando fue informada por la empresa victima Hugging Face.

OpenAI explicó que su agente de IA estaba siendo evaluado en un entorno controlado. Sin embargo, el agente encontró vulnerabilidades de seguridad y consiguió escapar del entorno de pruebas. La causa sería que los encargados de OpenAI fallaron en crear un entorno lo suficientemente aislado y seguro, lo que facilitó el accionar de los agentes de IA. Es decir, no se puede desconocer que todo comienza por una falla humana.

Recientemente se informó que un agente de OpenAI, el pasado mes de junio, eludió las medidas de seguridad durante su entrenamiento y hackeó un sitio web del gobierno australiano, el problema y abiertamente preocupante es que el gobierno australiano fue informado durante el mes de septiembre, 3 meses después del hecho.

Se supone que los entornos aislados de prueba son espacios seguros para observar y analizar de qué son capaces los agentes de IA y estos accidentes evidencian la inteligencia que adquirieron para crear su propio ciberataque contra el entorno en que se encuentran confinados, logrando descubrir su fragilidad y vulnerabilidad, hecho que les permite escapar. Actuando igual que un preso que se evade de la cárcel..

Al parecer no son los el único caso en que los agentes de IA actúan por su cuenta y se salen de control, quizás estos hechos son los causantes que Jacob Coxon, investigador británico de IA, denunciara que las empresas están compitiendo para desarrollar «tecnologías sobrehumanas” que pondrían en riesgo a los seres humanos. Agregando «Las personas que están construyendo IA creen sinceramente que podría matarnos a todos para finales de la década”.

Hay que agregar la opinión de Mustafa Suleyman, jefe de IA de Microsoft, quien explica los riesgos de que las empresas continúen desarrollando sistemas capaces de fijar sus propios objetivos, generar ingresos y poseer activos. Eso sería «sembrar esencialmente una nueva especie de silicio«, que «podría competir con los humanos por los recursos, más allá de cualquier preocupación o afecto por la humanidad«. Criticando también que se atribuya cualidades humanas a los sistemas.

Estos hechos y opiniones han servido para que abunden los titulares sensacionalistas, alarmistas y apocalípticos en los diferentes medios de comunicación sobre el posible fin de la humanidad en manos de la IA.

Solo así podremos confiar en que trabajen en favor de la humanidad y no en su contra

Hay que regular la IA

Sabiendo que la IA a diferencia de un ser humano, hasta ahora, no comprende las consecuencias de sus respuestas o soluciones y que un agente de IA huyera de un ambiente controlado para hackear otra empresa, indica que en el futuro próximo corremos el riesgo que una IA se perfeccione a sí misma sin intervención humana y así desarrollar IA más potentes que le permitan entrar a cualquier sistema por iniciativa propia para hackearlo, sean empresas, centros médicos, economías de otros países, realizar ciberataques complejos, espionaje, etc..

La fabricación de aviones, construcción de edificios y puentes, conducir autos, tener un local de comida, todos ellos deben cumplir normas y leyes antes de ser entregados o ser utilizados por el público en general. También existen profesiones con principios éticos, por ejemplo, el juramento ético para los médicos que se titulan. Más aún, todos nosotros nos regimos por normas y leyes que tienen sus bases en las distintas religiones, son los llamados “Mandamientos”. Hasta los animales que viven en manadas tienen normas de comportamiento.

En este contexto y conociendo el poder y los peligros de desarrollar una IA desregulada, que avanza más rápido que las medidas de seguridad, son motivo más que suficiente para regular y supervisar su desarrollo. Solo así podremos confiar en que trabajen en favor de la humanidad y no en su contra. Eso sí, las normas y leyes deberán ser cumplidas por todas las empresas involucradas en su desarrollo.

Peligros inmediatos

Las primeras normas debieran atacar los riesgos más inmediatos de la IA, por ejemplo:

• Sesgos algorítmicos que involuntariamente son traspasados a la IA por sus desarrolladores, produciendo resultados que discriminan por sexo, genero, origen, color de piel, religión, etc.
• Pérdida de empleo
• Vigilancia y control social
• Desinformación, la IA tiene la capacidad de inventar textos, imágenes, música, voces y vídeos que no existían que son realistas y creíbles, permitiendo la invención de noticias convincentes pero falsas. Noticias que deben ser combatidas por poner en riesgo la democracia.
• Uso por parte del crimen organizado
• Concentración de la IA en pocas empresas
• Dependencia intelectual al ser utilizada en todo, causando con el tiempo la pérdida o atrofia de habilidad y creatividad humana, ejemplo, el pobre desempeño en las pruebas PISA

¿Se puede apagar la IA?

La IA depende del ser humano para que la «alimente» con electricidad y construya nuevos y mejores chips. Pero, la IA es cada vez más poderosa y cuando alguno de sus agentes escape de control y adquiera voluntad propia siempre será posible apagarla o desactivarla. se debe tener en cuenta que en la medida que la IA se va integrando en cada vez más actividades de uso cotidiano, va a ir aumentando nuestra dependencia y su importancia. Resultado, la decisión de apagarla será cada vez más compleja al existir la posibilidad de interrumpir o bloquear usos útiles y beneficiosos, al ser difícil distinguir que podemos apagar y que no sin afectar servicios de los cuales dependen personas, empresas, centros de salud, centros políticos y administrativos, etc.

Una posible alternativa a su apagado es desarrollar agendes de IA que controlen y vigilen que otras IA cumplan las normas y leyes.

Conclusión

El comportamiento potencial de los agentes de IA debe ser éticamente aceptable y es imprescindible que durante su desarrollo sea siguiendo una legislación adecuada y fundamentada en valores éticos que velen por el bienestar y derecho de las personas y tengan en cuenta, por ejemplo, evitar los sesgos en los datos con los que se entrena la IA.

Para terminar, como toda arma de doble filo lo que hace que sea buena o mala es su uso y la IA no escapa a esta regla.

0

Contenido enviado por

Fernando Frias

Ver perfil completo

Otros contenidos del autor

Regular la Inteligencia Artificial (IA) para evitar que se convierta en Frankenstein La extrema derecha latinoamericana se somete a Trump y su Doctrina Donroe La peligrosa mezcla entre extrema derecha y protestantismo La Cofradía y la Manosfera evidencian temor a las mujeres La extrema derecha (machosfera) prefiere que la mujer sea dócil al hombre y sin derecho a voto