Con el avance exponencial que está experimentando esta tecnología, nos encontramos con sistemas de inteligencia artificial (IA) que, si bien pueden ajustarse a los requerimientos normativos, resultan éticamente cuestionables. Chatbots que simulan conversaciones con personas fallecidas utilizando las huellas digitales que dejan (correos electrónicos, redes sociales, mensajes de voz, etc.), o aquellos que generan vínculos emocionales con adolescentes, son claros ejemplos de los desafíos éticos que plantean.
La alfabetización, tal y como se recoge en el artículo 4 del Reglamento de IA, se configura esencial en nuestra sociedad en la medida que supone un cambio de paradigma en relación con la formación tal y como la entendemos hasta ahora en otras disciplinas, y puede ayudar a enfrentarnos a esos desafíos éticos suficientemente informados y concienciados.
Pilares de la alfabetización
La alfabetización se sostiene en tres pilares, conocimiento, comprensión y destrezas. Y eso es así porque la IA no es una tecnología más. Nos impacta directamente en cómo trabajamos, cómo nos relacionamos, en definitiva, en cómo vivimos. Por ello, se hace esencial adquirir conocimiento, comprensión y destrezas para ser capaces, por un lado, de identificar todas las oportunidades que la IA nos brinda, pero también, para reconocer los riesgos que su desarrollo y uso puede conllevar. Y este es el gran desafío, tanto para las empresas como para la sociedad, que todas las personas tengan la capacidad y conocimiento suficiente, sin olvidar el espíritu crítico para cuestionarse los resultados que arroje la IA.
Que el Reglamento de IA otorgue a la alfabetización el carácter de obligatorio, indicando que las empresas que crean y utilizan sistemas de IA deben asegurarse de que sus empleados y cualquier otra persona que opere o utilice estos sistemas en su nombre tengan una buena formación en IA, hace que nos hagamos una idea de su especial relevancia.
Cambio de paradigma
Este cambio de paradigma obligará a las empresas a contar con un plan de alfabetización ambicioso y realista, lo que significa determinar, en primer lugar, qué colectivos forman nuestra compañía y qué necesita cada uno de ellos, además de tener en cuenta el contexto y actividad de cada entidad y los sistemas que desarrollan o usan. Nos enfrentamos a planes que son vivos, constantes, teniendo en cuenta que el reto es estar siempre actualizado en IA. Cada colectivo tendrá necesidades distintas, habrá que determinar los contenidos y las capacidades que se necesitan desarrollar en cada uno de ellos. La ética, una vez, deberá ser una parte esencial de estos planes.
Si bien el Reglamento puede resultar complejo y discutible en algunos aspectos, el hecho de incluir la alfabetización como un requerimiento obligatorio es un acierto indiscutible. Ahora más que nunca, ese espíritu crítico, se convierte en el centro de todo, y es nuestra obligación trasladar este mensaje a las nuevas generaciones. El reglamento establece algo fundamental: la protección del Estado de Derecho y de la democracia y esto no lo podemos olvidar, porque nuestra sociedad se juega mucho cuando estos pilares se ven amenazados. De ahí la importancia de conocer y comprender como a través de la IA pueden llegar a socavarlos. Este pensamiento crítico requiere de muchas soft skills (prefiero llamarlas power skills) para cuestionar que lo que se nos presenta, lo que te dice ChatGPT o cualquier otra IA, quizás no es realmente lo que tiene que ser, no es lo real o verdadero. Desde la posición de empresas o cualquier otra Administración pública, reguladores, etc., tenemos una responsabilidad social y moral para que las personas realmente sepamos lo que está en juego.
Ética y regulación
La ética es el complemento a la regulación, y siempre va más allá. La pregunta ante la tecnología es qué puedo hacer, y en la mayoría de los casos, va a ser posible hacer casi todo. En cambio, la ética nos responde a una cuestión mucho más relevante, qué debo hacer. Sin duda, la ética subyace en el nuevo reglamento europeo, poniendo a las personas en el centro de todo, hablando de justicia, dignidad, democracia y Estado de Derecho. El ser humano se comporta basándose en unos principios éticos y sería impensable hablar de IA sin ética.
Con demasiada frecuencia nos levantamos con noticias que no deberían haber ocurrido, situaciones que provocan algunos sistemas de IA desarrollados por determinadas compañías donde la ética ha brillado por su ausencia. Me pregunto si en algún momento estas compañías se han hecho la pregunta ¿Qué puede salir mal? Y esta pregunta es relevante porque no todo está resuelto, y puede ser que la normativa, por si sola, no garantice la solución, por ello, aspirar a un marco ético global consensuado y vinculante de principios éticos, debería ser nuestra ambición. Pero si ese consenso no llega, tampoco debería servir de excusa, porque la ética no puede ser opcional ni negociable.
¿Quién no conoce situaciones en las que un sistema de IA ha discriminado a mujeres, personas de color o escándalos en procesos electorales? El motivo se debe a que, al usar esta tecnología no se tiene en cuenta que se pueden perpetuar sesgos existentes en la sociedad.
Por tanto, la ética en el uso de la IA no es solo una cuestión de cumplimiento normativo, sino un imperativo moral que debe guiar nuestras acciones y decisiones. La IA tiene el potencial de transformar nuestra sociedad, pero sin una base ética sólida, corremos el riesgo de perpetuar injusticias y desigualdades. La alfabetización en IA y la formación en ética no son opcionales; son esenciales para garantizar que la tecnología se utilice de manera justa y equitativa, poniendo siempre el foco en las personas.
Debemos asumir la responsabilidad de educar a las nuevas generaciones, fomentar el pensamiento crítico y promover una cultura de ética en todas las esferas de la sociedad. Solo así podremos aprovechar plenamente las inmensas oportunidades que nos brinda la IA, sin comprometer nuestros valores y derechos fundamentales.
El filósofo John Dewey afirmaba en 1916: “Si hoy enseñamos a los estudiantes como enseñábamos ayer, los despojamos del futuro”. Más de un siglo después, esta frase sigue vigente. Ante los cambios acelerados en nuestra sociedad, necesitamos cambiar la educación. Ya no podemos seguir enseñando, ni trabajando, de la misma manera. Si lo hacemos, efectivamente, nos estaremos robando el futuro.
ElDerecho.com no comparte necesariamente ni se responsabiliza de las opiniones expresadas por los autores o colaboradores de esta publicación