Ética y IA en 2025: ¿Podemos sobrevivir a la revolución tecnológica?

La tecnología avanza a un ritmo vertiginoso, y la inteligencia artificial (IA) es la punta de lanza de esta transformación. Pero, ¿qué pasa cuando la innovación supera la reflexión ética? Para la doctora Carme Torras, experta en IA y robótica, delegar responsabilidades en estas máquinas puede poner en riesgo habilidades humanas tan valiosas como la empatía. En 2025, mientras los debates en torno a la ética tecnológica se intensifican, sus palabras en el AI Congress Barcelona resuenan con fuerza y claridad.

Carme Torras: pionera en tecnoética y robótica inteligente

Con una carrera científica ejemplar como jefa del Grupo de Percepción y Manipulación Robotizada del CSIC-UPC, Carme Torras no solo investiga cómo los robots pueden interactuar mejor con nosotros, sino que también cuestiona el impacto social y emocional que tiene la tecnología. Su libro La mutación sentimental (2008) ya advertía sobre los riesgos de perder sentimientos humanos en un mundo dominado por máquinas y algoritmos. En 2024 recibió la Cruz de Sant Jordi, un reconocimiento que refrenda su compromiso con la ciencia y la ética.

¿Cómo puede ser ética la inteligencia artificial?

La IA no tiene moralidad intrínseca. Como Torras enfatiza:

“La ética no es algo de las máquinas o de la inteligencia artificial, es una disciplina de las personas y por eso es importante la formación en esta”.

Esta frase nos pone en perspectiva: la responsabilidad ética recae primero en los creadores y desarrolladores, pero también en los usuarios. Para lograr un uso verdaderamente ético, son esenciales tres pilares:

• Educación en ética tecnológica para desarrolladores
• Formación en el uso responsable para usuarios
• Regulación adecuada por parte de los gobiernos y organismos internacionales

Empresas de IA y la carrera por el dinero vs. la ética

Al preguntarle si las grandes empresas que están detrás de herramientas de inteligencia artificial mantienen estos valores, Torras responde con realismo:

“Las empresas quieren ganar dinero, pero la Unión Europea, a través del AI Act, regula los riesgos según la aplicación de la IA”.

Esta regulación establece categorías de riesgo que van desde niveles bajos hasta los más altos, donde la prevención es crucial. Además, cada vez es más común que las compañías aspiren a obtener un sello ético de buenas prácticas, una etiqueta que podría ser decisiva para ganarse la confianza de la ciudadanía.

Derechos humanos digitales: la nueva frontera

En la era digital, la ética no solo se trata de normas internas, sino que se está extendiendo para adaptar y ampliar los derechos humanos clásicos a esta nueva dimensión tecnológica.

“Se está hablando de adaptar, o extender, los derechos humanos a derechos humanos digitales, y aplicarlos a esta nueva esfera.”

Este debate se vuelve imprescindible en un mundo donde nuestra vida privada, nuestras interacciones y hasta nuestra identidad están cada vez más ligadas a lo digital.

¿Los usuarios son conscientes del uso moral de la IA?

Lo preocupante para Torras no son solo las empresas ni los desarrolladores, sino los usuarios, especialmente los más jóvenes:

• No suelen ser conscientes de su dependencia en la IA.
• Delegan procesos cognitivos esenciales, desde cálculos hasta la reflexión profunda.
• Esto puede llevar a una pérdida paulatina de habilidades humanas, como la empatía y la interacción social auténtica.

Al respecto señala:

“Si solo se tienen amigos virtuales, se pueden perder habilidades vitales como la comprensión o la admiración, que son parte esencial de lo que nos hace humanos”.

Su novela La mutación sentimental va más allá del simple entretenimiento: es un aviso anticipado de un riesgo que hoy empieza a ser una realidad.

Formación en IA: una necesidad urgente

Así como hemos aprendido informática y manejo básico de ordenadores, Torras insiste en que el siguiente paso debe ser la formación en inteligencia artificial para todos:

• Para usuarios de todas edades.
• Como complemento a la regulación.
• Para que la tecnología sea aliada y no una amenaza.

Ella comenta que:

“Al igual que muchas personas han perdido la capacidad de cálculo por confiar en la calculadora, o la ortografía con el corrector, ahora con herramientas como ChatGPT podemos perder la capacidad de pensar.”

Sin un buen uso y conciencia, la IA podría transformar nuestras capacidades cognitivas y sociales de forma irreversible.

¿Qué futuro nos espera con la inteligencia artificial?

Las predicciones sobre la IA suelen oscilar entre escenarios utópicos y distópicos, pero Torras opta por una visión evolutiva y gradual:

1. Extinción humana superada por máquinas. Un escenario catastrófico y poco probable.
2. Futuro de grandes desigualdades. El acceso a la IA determina brechas sociales.
3. Utopía tecnológica. La IA mejora radicalmente la calidad de vida.
4. Retroceso tecnológico. Por razones económicas o energéticas.
5. Evolución gradual. La posición en la que Torras cree firmemente.

“Estamos en una revolución tecnológica similar a la agraria o industrial y la incorporación adecuada de la IA marcará la diferencia.”

La clave será cómo aprendemos a integrarla y regularla.

Reflexión final: ¿delegamos demasiado en la IA?

Carme Torras nos invita a meditar sobre el delicado equilibrio entre innovación y humanidad:

• La IA puede ser una herramienta maravillosa para potenciar nuestras vidas.
• Pero delegar sin conciencia puede erosionar lo más valioso de nosotros: nuestras emociones y relaciones.
• La ética, la educación y la regulación deben ir de la mano en este viaje.

“Estamos en un momento clave para decidir hacia dónde queremos ir con el uso de la inteligencia artificial.”

Si queremos preservar no solo el progreso, sino también nuestra esencia humana, la reflexión ética no puede quedarse atrás.

¿Quieres seguir explorando el futuro de la IA y su impacto social? No te pierdas nuestros próximos artículos sobre innovación responsable y tecnología humana. Suscríbete a nuestra newsletter para recibir las últimas tendencias y únete a la conversación dejando tus comentarios aquí abajo. ¡Tu opinión es clave!