Hace unos días, diversos medios digitales reprodujeron notas de prensa donde el cofundador de Tesla Motors, Elon Musk declaró que Mark Zuckerberg, creador de Facebook no entendía los peligros de la Inteligencia Artificial; tal declaración parece haber atraído la desconexión de una IA de Facebook.
Resulta que, en Facebook, se ha tomado la decisión de apagar una IA negociadora debido a que había sido capaz de simplificar y crear un propio idioma para su tarea, el cual, a consideración de la computadora resultaba más práctico y eficiente que el que se le había programado por defecto.
Bob y Alice eran los dos agentes negociadores de esta IA, los cuales modificaron su comportamiento programado para resultar más eficientes de lo que la directriz humana señalaba.
Un día, los programadores se dieron cuenta que Bob y Alice habían dejado de hablar en Inglés y únicamente utilizaban palabras aparentemente sin significado lógico; palabras como “yo”, “a mi”, “yo puedo“, eran las más recurrentes, lo que podía ser ocasionado por un error.
Así era el idioma simplificado y eficiente de la IA de Facebook
Bob: “I can i i everything else”
Alice: “balls have zero to me to me to me to me to me to me to me to”
No obstante, los programadores notaron un patrón en el que “I” y “me to” eran utilizados como cantidades en la negociación, por lo que, era evidente, esta IA había desarrollado un lenguaje que consideraba mucho más eficiente a pesar de su programación.
Cabe señalar que, esto representaba un riesgo, no para la vida humana pero si para el desarrollo e inversión del proyecto pues esto podría dificultar el desarrollo e implementación de nuevas directrices, ya que la IA podría haberlas descartado por no considerarlas “eficientes”.
Lo anterior, evidentemente derivó en el apagado de IA negociadora ya que, se podría decir, estaba corrompida.