Cuando se piensa en el poder de las máquinas inteligentes, a la mente vienen imágenes perturbadoras desde la obra de teatro R.U.R. escrita por el checo Karel Čapek en 1920, quien describe una rebelión de androides inteligentes (llamados robota) hasta la tierna y siniestra inteligencia artificial (IA) protagonista de la video serie I Am Mother estrenada este verano. Sin llegar a extremos violentos, sistemas de IA ya toman algunas decisiones que afectan (para bien o para mal) la vida de los humanos de carne y hueso, quienes no saben dentro de servidores esparcidos por todo el mundo.
Médico digital: Una de las primeras personificaciones reales de la IA fue Watson, diseñado por la empresa IBM para participar en un concurso de trivia muy popular en los Estados Unidos llamado Jeopardy! Watson venció al campeón humano del juego en 2011 pero sus creadores lo transformaron en un experto médico que asesora médicos de carne y hueso en el análisis de imágenes y pruebas de laboratorio para determinar la existencia y grado de avance en más de una docena de tipos de cáncer [ https://www.ibm.com/downloads/cas/AONROW12. A inicios de año el organismo regulador estadounidense de productos para el sector salud (FDA) aprobó un agente de IA [ https://futurism.com/neoscope/fda-approved-algorithm-predicts-death ] que se presume capaz de predecir episodios de paro cardiorrespiratorio.
Tu crédito robótico: Uno de los procesos más complejos y caros para una institución financiera es detectar fraudes con tarjetas de crédito pues los delincuentes suelen ser escurridizos y las transacciones fraudulentas son difíciles de distinguir de compras honestas. Por ello a inicios de año una de las empresas de tarjetas de crédito y débito más importantes del mudo anunció [ https://newsroom.mastercard.com/asia-pacific/2019/01/31/how-ai-is-transforming-the-payments-experience/ ] el despliegue de un agente de inteligencia artificial para detectar operaciones delincuenciales analizando en tiempo real características inusuales de una compra al comprarlo con los hábitos de consumo y pago del tarjetahabiente. Pero esto es el principio y algunas empresas emergentes con operaciones en nuestro país [ https://emerj.com/ai-sector-overviews/artificial-intelligence-applications-lending-loan-management/] ya realizan análisis de calidad crediticia de una persona basados en sistemas de inteligencia artificial, lo que permite aprobar solicitudes de crédito basados en análisis automatizado de datos que van de los ingresos del solicitante hasta su uso de redes sociales.
Jueces sin rostro ni cuerpo: La nación europea de Estonia anunció [ https://www.wired.com/story/can-ai-be-fair-judge-court-estonia-thinks-so/ ] este invierno su intención de iniciar con el uso de un agente de inteligencia artificial en la determinación de disputas contractuales. De acuerdo con el plan, las dos partes en disputa enviarían al juez digital información para sostener su alegado y el sistema emitiría un veredicto que al menos en forma inicial sería revisado por un juez humano para convertirlo en una decisión judicial válida. Pero no es el único lugar donde jueces virtuales comienzan a lidiar con asuntos humanos; algunos servicios de inteligencia artificial ayudan [ https://donotpay.com/ ] en países como Estados Unidos y el Reino Unido para apelar multas de tránsito y algunas empresas que ofrecen sistemas [ https://www.weforum.org/agenda/2018/11/algorithms-court-criminals-jail-time-fair/ ] de IA para asesorar a jueces de ámbitos como el penal.
Muerte algorítmica: Quizá la aplicación más perturbadora de la IA tiene que ver con su colocación en bombas, misiles y otros tipos de armamento para que puedan atacar un blanco de manera autónoma. Países como Rusia ya prueban [ https://www.rt.com/news/425902-war-machines-russian-robots/ ] tanques y vehículos terrestres equipados con sensores e inteligencia artificial capaz de detectar y atacar objetivos de acuerdo con instrucciones otorgadas por sus superiores de carne y hueso. Desde 2013 una iniciativa denominada Campaign to Stop Killer Robots [ https://www.stopkillerrobots.org/about/ ] busca prohibir el desarrollo y uso de armas autónomas como sucede hoy con las minas antipersonales. Entre las personalidades que apoyan esta iniciativa se encuentra Elon Musk (creador de la automotriz Tesla), el Dalai Lama, Steve Wozniak (cofundador de Apple) y el científico Stephen Hawking suscribieron [ https://www.theguardian.com/technology/2015/jul/27/musk-wozniak-hawking-ban-ai-autonomous-weapons ] el llamado para prohibir este tipo de armas.
Pero ¿cuál es el problema?
El poder de la IA abre cuestionamientos y preguntas extremadamente relevantes:
– Rendición de cuentas: Si un juez humano emite un veredicto de culpabilidad, existen mecanismos para revisar el actuar del juez e incluso revertir su decisión. ¿Qué pasa cuando la culpabilidad la determina un agente de IA?, ¿es inapelable la decisión de un banquero digital de negar una solicitud de crédito?
– Explicabilidad: Si un general decide ordenar el ataque hacia un objetivo y causa bajas civiles inesperadas, puede explicar las razones de su actuación a otros humanos. Los sistemas de IA son inescrutables puesto que si revisamos su operación durante el proceso de decisión obtendremos un amasijo de números y cifras sin sentido para la mente humana. Así, un agente de IA que ataque una población civil puede ser incapaz de explicar la naturaleza de su decisión.
– Sesgo: Una de las promesas de la IA está en que teóricamente carece de sesgos humanos como la discriminación hacia personas con ciertas características raciales, socioeconómicas o de género. Desafortunadamente ahora se sabe que [ https://www.research.ibm.com/5-in-5/ai-and-bias/ ] que la IA puede reproducir tales sesgos si los datos usados para entrenarlos son defectuosos o si sus programadores les imbuyen sus propios miedos y estereotipos.
