en la Inteligencia Artificial generativa
Luis Peñas García
Director de Sistemas de Información. Provincia San Juan de Dios España.
La IA, definida como la capacidad de las máquinas para imitar la inteligencia humana y generar nuevas soluciones, incluye variantes como la Inteligencia Artificial Generativa, que produce contenido en respuesta a comandos. Sin embargo, surgen desafíos éticos similares a los del pensamiento humano, lo que destaca la importancia de guiar la IA con principios éticos.
El autor plantea preguntas clave sobre el uso de la información, la definición de algoritmos y los destinatarios de la IA. La ética se vuelve fundamental para dirigir el desarrollo y la aplicación de la IA, asegurando la justicia, beneficencia, no maleficencia, autonomía, privacidad y transparencia en su uso.
También propone algunas recomendaciones y destaca la importancia de mantener un equilibrio entre el uso de la IA y las interacciones humanas, así como de humanizar su aplicación para preservar la dignidad y la ética en el ámbito asistencial.
Palabras clave: inteligencia artificial, IA, ética, comités de ética, conocimiento
Artificial intelligence, or AI, defined as the capacity of machines to imitate human intelligence and to generate new solutions, includes such variants as generative artificial intelligence, which produces content in response to commands. Nevertheless, ethical challenges arise which are similar to those of human thought, a fact that highlights the importance of guiding AI with ethical principles.
The author poses key questions about the use of information, the definition of algorithms, and the target population of AI. Ethics takes on fundamental importance in directing the development and application of AI, ensuring the fairness, goodness, non-maleficence, independence, privacy and transparency of its use.
He also offers some recommendations and highlights the importance of maintaining a balance between the use of AI and human interactions, emphasizing the importance of humanising its application with a view to preserving dignity and ethics within the sphere of caregiving.
Keywords: artificial intelligence, AI, ethics, ethics committees, knowledge
En este mundo tan tecnológicamente cambiante en el que la ingeniería ocupa un rol predominante en el desarrollo de la humanidad, nos encontramos ante un nuevo paradigma que, si bien no viene a sustituir al pensamiento y raciocinio humano, sí que viene a transformar el cómo habremos de enfrentar los problemas a los que debamos buscar solución: la Inteligencia Artificial.
Si atendemos a la penetración de Internet, esta es más elevada en Norteamérica, con un 90,3% de su población con acceso, seguida de Europa con un 87,2%, Latinoamérica y el Caribe con un 71,5%, Oriente Medio, con un 70,8%, Oceanía y Australia con un 67,7%, Asia con un 59,5% y África con un 47,1% (https://www.internetworldstats.com/stats.htm)
Ante esta novedad tecnológica, lo primero que cabe preguntarse es qué es la inteligencia artificial y para qué puede ser usada:
Según la Wikipedia, la inteligencia artificial (IA), en el contexto de las ciencias de la computación, es una disciplina y un conjunto de capacidades cognoscitivas e intelectuales expresadas por sistemas informáticos o combinaciones de algoritmos cuyo propósito es la creación de máquinas que imiten la inteligencia humana para realizar tareas, y que pueden mejorar conforme recopilen información
extendiéndose esta definición de Inteligencia Artificial a la Inteligencia Artificial Generativa. Que, según nuevamente la Wikipedia, podría aceptarse como una definición válida la siguiente:
La inteligencia artificial generativa o IA generativa es un tipo de sistema de inteligencia artificial (IA) capaz de generar texto, imágenes u otros medios en respuesta a comandos. Los modelos de IA generativa aprenden los patrones y la estructura de sus datos de entrenamiento de entrada y luego generan nuevos datos que tienen características similares
Teniendo esta primera definición formal y aceptada de lo que es la Inteligencia Artificial y su variante conocida como generativa, queda claro que empiezan a surgir cuestiones muy similares a las relacionadas con el pensamiento humano que habrán de guiar los siguientes párrafos, ayudando al lector a entender el porqué de dotar de herramientas a la misma a fin de gobernar correctamente los conocimientos que se vayan adquiriendo, y donde el concepto de ética habrá de cobrar una vital importancia.
01 | ¿Qué información será usada para inferir conocimiento?
Esta es una de las claves de la Inteligencia Artificial, es decir, qué conocimiento será usado para adquirir mayor conocimiento. Al igual que en el aprendizaje humano los sesgos de la enseñanza pueden hacer que el comportamiento de los seres humanos se decante en una dirección u otra igual pasará con los resultados que los algoritmos programados infieran.
Ejemplo: (1) el comportamiento de un ser adulto al que durante su infancia le educaron sobre las bondades del comunismo obviando el resto de sistemas económicos mundiales, posiblemente entenderá únicamente como válido el comunista.
02 | ¿Qué son Algoritmos y quién los definirá?
Ateniéndonos nuevamente a la Wikipedia,
En matemáticas, lógica, ciencias de la computación y disciplinas relacionadas, un algoritmo es un conjunto de instrucciones o reglas definidas y no-ambiguas, ordenadas y finitas que permite, típicamente, solucionar un problema, realizar un cómputo, procesar datos y llevar a cabo otras tareas o actividades. Dado un estado inicial y una entrada, siguiendo los pasos sucesivos se llega a un estado final y se obtiene una solución. Los algoritmos son el objeto de estudio de la algoritmia.
Igualmente, como en el punto anterior, los algoritmos serán los encargados, a partir de los datos de entrada previamente seleccionados, mezclarlos de manera que puedan generar nuevo conocimiento en función de unas reglas definidas y estructuradas.
Ejemplo: (2) se puede definir un algoritmo que, sobre los datos de entrada seleccionados de personas, se discrimine por edad a los posibles receptores de seguro, de manera que siempre se le asigne seguro a personas con pocas probabilidades de enfermar según el criterio de la edad.
03 | ¿Para qué, a quién y por quién será usada la Inteligencia Artificial?
Con un conjunto de datos adecuado y los algoritmos especificados, la máquina ya está lista para producir nueva información a partir de la previamente existente, pudiendo ser usada como nuevo origen de datos para inferir nueva información adicional. El productor de esta información con los sesgos que haya introducido a la hora de programar los algoritmos será el que decida a quien enviar dicha información, pudiendo comprometer la libertad del que la reciba al condicionar su juicio u opinión.
Ejemplo: (3) en función de los gustos de los telespectadores, el productor puede guiar el tipo de producciones a ser producidas y los telespectadores objetivo a fin de conseguir que siempre consuman sus productos y no los de la competencia.
Llegados a este punto, se ve claro que, si el comportamiento humano requiere de la ética para poder guiarlo, la maquina encargada de hacer razonamientos parecidos a los humanos, habrá de regirse igualmente por este conjunto de normas éticas, ya que y según vimos en los ejemplos previos, podríamos dar en el futuro como válidos pensamientos inferidos por algoritmos que llegasen a conclusiones del tipo: (1) solo los comunistas que (2) tengan entre 25 y 50 años merecen vivir viendo (3) películas de acción que les aboquen a sentimientos belicistas, conclusión totalmente descabellada a todos los efectos.
Llegados a este punto, el lector habrá concluido que la ética es un concepto válido, necesario y aplicable tanto para el ser humano como para la Inteligencia Artificial Generativa.
Con esta conclusión en mente, si ahora hubiésemos de resumir lo que la ética podría resultar para la Inteligencia Artificial, podríamos acudir directamente a ella preguntándole: “háblame de la ética e inteligencia artificial”[1], siendo un extracto de su respuesta literal la siguiente:
El rápido auge de la “inteligencia artificial (IA)” ha generado nuevas oportunidades a nivel global: desde facilitar los diagnósticos de salud hasta posibilitar las conexiones humanas a través de las redes sociales, así como aumentar la eficiencia laboral mediante la automatización de tareas. Sin embargo, estos rápidos cambios también plantean profundos dilemas éticos, que surgen del potencial que tienen los sistemas basados en IA para reproducir prejuicios, contribuir a la degradación del clima y amenazar los derechos humanos, entre otros. Estos riesgos asociados a la IA se suman a las desigualdades ya existentes, perjudicando aún más a grupos históricamente marginados.
- Principios fundamentales de la ética en la IA:
- Justicia Debe ser justa e imparcial, evitando la discriminación y el sesgo en sus decisiones.
- Beneficencia Debe ser utilizada para el bien común, buscando siempre el bienestar de las personas.
- No maleficencia No debe causar daño a las personas, ni física ni psicológicamente.
- Autonomía Las personas deben tener control sobre sus datos y sobre cómo la Inteligencia Artificial los utiliza.
- Privacidad Debe respetar la privacidad de las personas y proteger sus datos personales.
- Transparencia Los sistemas de Inteligencia Artificial deben ser transparentes y explicables, para que las personas puedan entender cómo funcionan y tomar decisiones informadas.
- Impulsar y aceptar los avances legislativos que los gobiernos vayan imponiendo
Si bien es cierto que los gobiernos no siguen el ritmo del rápido avance de las tecnologías, es cierto que han de contribuir a la correcta implantación de las mismas, razón por la que los temas relacionados tanto con la seguridad (Ciberseguridad) de los datos como de la información contenida en los mismos (RGPD), ha de regir toda actuación relacionada con la Inteligencia Artificial siendo de obligado cumplimiento. Dicho esto, es importante remarcar que, si se tiene una organización regida por razones éticos coherentes, la implantación de los nuevos marcos legislativos no será más que un mero trámite, razón por la que cobra tanta importancia anticipar los correctos comportamientos éticos. Como marco general, no olvidemos:
- Nunca introducir datos personales propios o de terceros.
- Nunca introducir datos o informes o partes de textos sin permiso de su autor.
- Cuando tengamos que presentar un trabajo o un informe, siempre indicar la fuente de la que hemos obtenido la información.
- Revisar periódicamente las aplicaciones y sitios web que tienen acceso a los datos personales y revocar permisos innecesarios.
- Revisar y ajustar la configuración de privacidad en redes sociales y aplicaciones.
- Impulsar la creación de un comité de ética asociado a la Inteligencia Artificial Generativa en nuestros Centros
Llegados a este punto, y teniendo claro que la ética ha de supervisar las acciones, procedimientos e inferencia de nueva información a través de la Inteligencia Artificial Generativa obtenida, la pregunta es obvia, ¿quién ha de velar por el correcto comportamiento ético?, siendo la respuesta para los centros asistenciales el comité bioético con el apoyo de aquellas personas con conocimiento y ascendencia técnica en dicha materia.
- Dotar a estos comités de los inputs técnicos necesarios para poder llegar a conclusiones eficientes y eficaces sobre la implantación de programas concretos de Inteligencia Artificial
Si tan importante es revisar la nueva información generada, no nos olvidemos de la importancia de la información usada para inferir esta nueva información, razón por la que los comités éticos encargados de velar por los correctos resultados, deberán validar la corrección ética de los datos usados como inputs para los algoritmos desarrollados; igualmente la definición de estos algoritmos habrán de ser supervisados para que no infieran conocimiento no éticamente validable.
- Tutelar la idoneidad de los resultados alcanzados por los algoritmos asociados a los casos de uso de dicha Inteligencia Artificial
Esta es realmente la clave del trabajo del comité de ética asociado a la Inteligencia Artificial Generativa, porque si bien es cierto que a día de hoy toda la información generada ha de ser validada por las personas al cargo de la misma, es cierto que en un futuro no muy lejano esta información no será validada, dejando al albur de la maquina el validar la validez y ética de la misma. De esta forma, si la validación de los resultados no nace de manera ética desde el principio, difícilmente será posible que en el futuro se consiga de manera autónoma. Igualmente, este comité deberá validar que el uso de la información resultante de la Inteligencia Artificial Generativa sea correcto, como cualquiera otra generada dentro de la organización. De esta manera, se podrían introducir algunas recomendaciones básicas:
- Validación de la Información resultante
- Mantener un cuaderno de notas de IA para registrar nuevos conceptos y descubrimientos
- Implementación de medidas de transparencia: Los sistemas de IA deben ser transparentes y explicables, para que las personas puedan entender cómo funcionan y tomar decisiones informadas.
- Educación y Concienciación del uso de la IA Generativa
Es importante reconocer que la Inteligencia Artificial Generativa puede ser una poderosa herramienta para aumentar la productividad en el ámbito empresarial, pero también es importante desarrollar habilidades creativas y humanas que complementen su uso, de manera que educar a los usuarios de la misma para entrenarles en las mejores prácticas técnicas partiendo de conceptos éticos válidos se convierte en un paso vital para cualquier organización que quiera implantar modelos de trabajo que soporten la Inteligencia Artificial Generativa. Desarrollar tareas como las siguientes, seguro ayudarán al correcto entrenamiento de nuestra organización:
- Participar en conferencias o grupos de estudio sobre IA.
- Explorar recursos de IA en línea como cursos, blogs y podcasts.
- Buscar oportunidades para aplicar el conocimiento de IA en proyectos personales.
Finalmente destacar el concepto de equilibrio, ya que se debe utilizar la Inteligencia Artificial Generativa como una herramienta para mejorar la vida cotidiana y el trabajo, pero manteniendo un equilibrio con las actividades offline y las interacciones humanas:
- Establecer límites de tiempo para el uso de tecnología.
- Establecer un «día sin tecnología» regular en la semana para promover actividades offline.
- Mantener un registro de las actividades sociales y offline realizadas regularmente
Finalmente podemos concluir que la Inteligencia Artificial tiene el potencial de mejorar la salud, la eficiencia laboral y las conexiones humanas, pero también puede reproducir prejuicios y amenazar derechos fundamentales. Igualmente, la seguridad de los datos, la transparencia, la diversidad y la responsabilidad son aspectos clave de la ética en la Inteligencia Artificial que habrán de ser salvaguardados con especial interés.
Precisamos introducir un enfoque de humanización, en el empleo de estas herramientas, para que no nos conduzca sin remedio a eliminar a la persona y su dignidad en el desempeño de nuestras tareas asistenciales.
[1] Respuesta aportada por la IA de Microsoft: COPILOT
Bibliografía
- Aplicación COPILOT de Microsoft.
- Aplicación GEMINI de Google.
- El 2º Foro Global sobre la Ética de la Inteligencia Artificial, organizado por Eslovenia bajo el patrocinio de la UNESCO, tuvo lugar en febrero de 2024. Se centró en cambiar el panorama en la gestión de la IA.
- En noviembre de 2021, la UNESCO elaboró la primera norma mundial sobre la ética de la IA: la “Recomendación sobre la ética de la inteligencia artificial”.
- Ethics in the Age of Disruptive Technologies: An Operational Roadmap – osé Roger Flahaux, Brian Patrick Green, Ann Gregg Skeet – Markkula Center for Applied Ethics – Santa Clara University, Santa Clara, CA.
- Mensaje De Su Santidad Francisco Para La Celebración De La 57 Jornada Mundial De La Paz – 1 enero 2024 – Inteligencia Artificial Y Paz.
- Recomendaciones de los CIOs a los usuarios de sus empresas sobre el uso responsable de IA a nivel particular (SETESCA) – septiembre 2023.
- Wikipedia:
https://es.wikipedia.org/wiki/%C3%89tica_en_la_inteligencia_artificial
https://es.wikipedia.org/wiki/Algoritmo
https://es.wikipedia.org/wiki/Inteligencia_artificial
https://es.wikipedia.org/wiki/Inteligencia_artificial_generativa