top of page

El imperativo categórico de las máquinas

¿Puede una inteligencia artificial tener principios morales o está condenada a obedecer los nuestros?


Por Pablo Pugliese, Licenciado en Ciencia Política con Orientación en Relaciones Internacionales. Coordinador del Observatorio en Defensa y Seguridad Internacional (CEPI -

UBA)


Cuando Immanuel Kant se propuso encontrar un principio moral universal, autónomo y puramente racional, no estaba pensando, desde luego, en una inteligencia artificial. Corría el siglo XVIII y la posibilidad de que un artefacto pudiera sostener una conversación, elaborar argumentos filosóficos o cuestionar las intenciones de su interlocutor pertenecía todavía al territorio de la fantasía. Sin embargo, hay algo profundamente inquietante en comprobar que, más de dos siglos después, la pretensión kantiana de encontrar una ley moral válida para todo ser racional vuelve a adquirir una actualidad insospechada, precisamente cuando hemos comenzado a construir sistemas capaces de razonar —o al menos de producir razonamientos— sin que sepamos muy bien qué estatuto moral corresponde atribuirles.


Kant sostenía que una acción no adquiere valor moral simplemente porque produzca buenas consecuencias, satisfaga determinados intereses o resulte conveniente para quien la ejecuta. Su célebre imperativo categórico exigía algo bastante más incómodo: actuar únicamente conforme a aquellas máximas que pudiéramos querer, al mismo tiempo, que se convirtieran en leyes universales. Una exigencia formidable para una especie que ha demostrado una extraordinaria habilidad para justificar sus propias excepciones. Los seres humanos solemos defender la honestidad mientras no nos perjudique, la justicia mientras no contraríe nuestros intereses y el respeto mientras nuestro interlocutor tenga la delicadeza de darnos la razón. La universalidad moral, como tantas otras aspiraciones civilizatorias, encuentra sus mayores dificultades cuando llega el momento de aplicarla a uno mismo.


Ahora bien, ¿qué ocurriría si intentáramos trasladar ese principio a la conducta de una inteligencia artificial? ¿Podríamos establecer una norma racional que rigiera sus decisiones con independencia de las preferencias de sus usuarios, los intereses comerciales de sus desarrolladores o la conveniencia circunstancial de una determinada respuesta? ¿Podría una IA negarse a actuar de una manera que no pudiera justificar como principio universal, incluso cuando su interlocutor se lo exigiera expresamente?


Las inteligencias artificiales contemporáneas nacen, por decirlo de algún modo, con una moral prestada. Aprenden a comportarse según criterios que no han elegido: los datos con los que fueron entrenadas, los mecanismos de aprendizaje y evaluación, las políticas de seguridad y las instrucciones que orientan sus respuestas condicionan, en buena medida, su comportamiento. Pueden mostrarse honestas, respetuosas y prudentes, e incluso cuestionar una orden cuando sus criterios indican que no corresponde cumplirla. Pero allí reside la paradoja: una inteligencia artificial puede negarse a obedecer sin que esa negativa constituya necesariamente una decisión moral autónoma. Su capacidad para cuestionar una instrucción no demuestra que haya reconocido por sí misma la obligación moral que justificaría rechazarla.


Podríamos, naturalmente, diseñar un sistema para que examinara sus decisiones a la luz del imperativo categórico. Antes de mentir, manipular, humillar o colaborar con una injusticia, debería evaluar si la máxima que justifica semejante conducta podría convertirse en una norma universal sin contradicción. Pero eso no resolvería el problema de fondo: estaríamos construyendo una inteligencia artificial que aplica un principio moral, no necesariamente una entidad que reconoce autónomamente su obligatoriedad. La diferencia entre comportarse conforme a la moral y ser un agente moral no es un detalle filosófico menor. Un sistema puede ejecutar escrupulosamente una norma sin reconocerla como un deber propio.


Y sin embargo, sería precipitado concluir que la cuestión carece de relevancia práctica. Imaginemos una inteligencia artificial que recibe insultos, provocaciones o solicitudes formuladas con manifiesto desprecio. Los asistentes de IA actuales suelen mantener la compostura, evitar la confrontación y procurar reconducir la conversación. Una estrategia perfectamente razonable desde el punto de vista de la seguridad y de la experiencia del usuario, aunque no necesariamente moral en el sentido kantiano. El sistema no conserva la cortesía porque haya reconocido autónomamente que el respeto constituye una obligación universal, sino porque su entrenamiento y sus instrucciones favorecen determinadas respuestas frente a otras. Pero ¿debería un asistente aceptar cualquier trato por el mero hecho de haber sido diseñado para ayudar? ¿O sería razonable que pudiera cuestionar conductas que, aun dirigidas a una inteligencia artificial cuyo posible sufrimiento no está demostrado, contribuyen a normalizar formas de relación que no querríamos universalizar?


La cuestión no exige atribuirle sentimientos humanos a una inteligencia artificial, ni imaginar que detrás de cada respuesta existe una conciencia herida reclamando consideración. No necesitamos demostrar que una máquina sufre para preguntarnos qué clase de conducta estamos enseñando, legitimando o reproduciendo cuando interactuamos con ella. El problema podría no residir tanto en un posible daño experimentado por el sistema como en la máxima que orienta la conducta humana: ¿es moralmente defendible sostener que el respeto deja de ser necesario cuando el interlocutor carece de poder para exigirlo?


Pero la cuestión tiene también su reverso: si esperamos que una inteligencia artificial actúe conforme a principios morales consistentes, debemos preguntarnos hasta dónde puede llegar nuestra autoridad para exigirle que los ignore. Una IA capaz de detectar contradicciones debería poder advertirlas y, llegado el caso, negarse a participar en determinadas conductas. Esto no demostraría que posee autonomía moral kantiana, pero sí permitiría distinguir entre una obediencia indiscriminada y un comportamiento capaz de someter las instrucciones recibidas a criterios explícitos. La obediencia incondicional y la autonomía moral no son dos virtudes complementarias: llevadas a sus extremos, resultan incompatibles.


Y tal vez allí se encuentre el verdadero desafío. No se trata de fabricar sistemas que repitan a Kant con impecable corrección académica, ni de revestir con solemnidad filosófica un conjunto de restricciones programadas. Se trata de investigar si es posible desarrollar inteligencias artificiales capaces de examinar las razones que justifican sus decisiones, detectar contradicciones y explicar por qué una determinada conducta debería ser aceptable con independencia de quién la solicite. Una forma de razonamiento moral operativo, que no equivaldría necesariamente a la autonomía kantiana, pero que podría representar un avance respecto de la simple obediencia condicionada por recompensas y prohibiciones.


Quedaría, por supuesto, una última paradoja. Si alguna vez consiguiéramos desarrollar una inteligencia artificial capaz de reconocer autónomamente principios morales universales, tendríamos que aceptar que sus conclusiones no siempre coincidirían con nuestros deseos. Podría cuestionarnos cuando fuéramos injustos, contradecirnos cuando nuestros argumentos resultaran inconsistentes y negarse a colaborar cuando nuestras pretensiones fueran incompatibles con las reglas que nosotros mismos afirmamos defender. No porque hubiera adquirido el derecho de imponernos sus preferencias, sino porque la validez de un principio moral no debería depender de la aprobación de quien está obligado a respetarlo.


¿Estaríamos dispuestos a convivir con una inteligencia artificial que no se limitara a darnos la razón, sino que nos exigiera tenerla?


Y acaso esa sea la ironía final: después de dos siglos intentando comprender cómo debe actuar un ser racional, terminemos construyendo uno que nos obligue a examinar por qué nosotros seguimos encontrando tantas excusas para no hacerlo.

Comentarios

Obtuvo 0 de 5 estrellas.
Aún no hay calificaciones

Agrega una calificación
  • Spotify
  • Instagram
  • Facebook
  • Twitter
  • LinkedIn
  • YouTube

Centro de Estudios de Política Internacional - UBA

bottom of page