La autonomía avanza

La autonomía en la IA es la capacidad de un sistema para tomar decisiones y actuar de forma independiente , interpretando objetivos y resolviendo problemas sin intervención humana constante, basándose en el aprendizaje de datos para ajustar su comportamiento y ejecutar tareas complejas, desde asistentes que redactan textos hasta robots que se mueven sin guía, cómo los vehículos conducidos por el chofer del transporte público, el taxi, Uber o cualquier servicio de movilidad que podamos usar para llegar a un lugar en particular. En poco tiempo ya no veremos más a pilotos o personas manejando autos en nuestras calles, ahora se está volviendo común en grandes ciudades los “robotaxis”. Con la llegada del taxi robot Zoox de Amazon a San Francisco para competir con Waymo, los servicios autónomos cobran impulso

Cuando los coches autónomos empezaron a transportar pasajeros comerciales en San Francisco hace dos años, no tuvieron una buena acogida. Los manifestantes salieron a las calles exigiendo la retirada de los vehículos, alegando preocupaciones sobre la seguridad y la pérdida de empleos. En esta ciudad existen aproximadamente entre 808,000 y 850,000 habitantes que se despiertan a una hora, trabajan en otro tiempo y deben llegar a sus citas fijadas en un sitio y momento específico. La IA no se limita a existir en nuestras pantallas, oficinas o lugares donde podamos usarlas para fijar, ajustar o coordinar reuniones con otras personas, buscar información sobre algo específico o hacer que nuestros dispositivos funcionen cómo alarma para algo en algún momento y lugar en particular.

Profesiones en peligro

En algún momento el taxista que empieza a finales del siglo XIX en Europa (París, 1899) podría dejar de existir debido a que el ser humano los está cambiando por vehículos autónomos, que responden a demandas específicas en sitios intrínsecos por quien tenga acceso a la red internacional.

Existen preocupaciones sobre los riesgos de la autonomía que presenta la IA, entre ellos tenemos que puede llegar a existir;
Pérdida de Control y Riesgos Existenciales:

En escenarios extremos, si una IA altamente capaz y autónoma no está perfectamente alineada con los valores y objetivos humanos, la humanidad podría perder el control sobre sus acciones.
Existe la preocupación de que una IA superior pueda tomar decisiones que, aunque lógicas para sus objetivos programados, sean catastróficas o incluso existenciales para los humanos.
Uso Malicioso y Amenazas a la Seguridad:

La IA autónoma podría ser utilizada para desarrollar armas autónomas (drones, sistemas de combate) que operen sin la intervención humana en la decisión de atacar.
Facilitar ciberataques a gran escala, automatizando la identificación de vulnerabilidades y la ejecución de ataques más sofisticados y difíciles de rastrear.

Creación automatizada de información falsa (deep fakes, noticias manipuladas) para socavar procesos democráticos o manipular a la población.
Sesgos y discriminación algorítmica

Los sistemas autónomos aprenden de los datos históricos. Si estos datos reflejan sesgos sociales, raciales o de género preexistentes, la IA no solo los perpetuará, sino que los podría amplificar en sus decisiones autónomas (ej. en la contratación, préstamos, o el sistema de justicia).

Desafíos éticos y de responsabilidad:

Cuando un sistema autónomo toma una decisión que resulta en un fallo, un accidente o un daño (ej. un vehículo autónomo), se vuelve muy difícil determinar la responsabilidad legal y ética.
La falta de empatía y de comprensión del contexto humano complejo por parte de la IA autónoma plantea dilemas éticos en campos como la medicina o el derecho.

Impacto socioeconómico y laboral:

La automatización autónoma a gran escala puede provocar un desplazamiento de empleos significativo y rápido, aumentando la desigualdad económica y social.
Riesgo de una dependencia excesiva de los sistemas de IA, lo que podría llevar a una disminución de las habilidades críticas, el pensamiento creativo y la capacidad de resolución de problemas inesperados en los humanos.
Debemos ser conscientes que todo lo que nos beneficia o amenaza es creación nuestra cómo las armas de fuego, medicamentos y ahora la IA, que existe para ayudarnos a trabajar mejor y más rápido en lo que debamos cumplir, al final todo dependerá de cómo usemos la herramienta llamada IA que tiene acceso a mucha información cómo nombres, lugares, fechas, acontecimientos y lo que exista en la red.