Sin lugar a dudas, el 2018 fue el Año de la Inteligencia Artificial —“31 sabores de
IA”. Para mí en lo personal, el 2018 fue un periodo de intensa creatividad en torno a la
IA. Mi puesto de Director Ejecutivo de Analítica es ideal porque me permite cumplir mi
deseo de crear tecnologías nuevas y emocionantes para resolver los problemas reales
que enfrentan los clientes de FICO. El 2018 fue el año perfecto para hacerlo, ya que la
IA y el aprendizaje automático maduraron de curiosidades mágicas a potentes
herramientas de negocio.
Conforme el 2018 llega a su fin, me encuentro cerrando el proceso de presentar mi
séptima y octava solicitud de patente del año en Estados Unidos. Con esto, el total de
patentes presentadas durante mi carrera asciende a 95: 45 otorgadas y 50
pendientes. Como lo dice en broma uno de mis colegas, estoy en el último sprint de “la
carrera hacia las 100 patentes”.
No es casualidad que gran parte de mi trabajo reciente en patentes sea la base
de los cimientos de lo que predigo será el desarrollo más grande de la industria
tecnológica en el 2019: la IA ética. Como científico de datos y miembro de la
comunidad analítica global, desarrollar tecnología analítica ética es muy importante
para mí, debido especialmente a que mi trabajo consiste en atender a los clientes de
FICO.
Deprisa y corriendo para contribuir a la IA ética
A continuación, describo cómo se desarrolla mi trabajo reciente en patentes, para
promover la adopción de una IA ética en la industria.
Blockchain: A pesar de que Bitcoin, la instancia más famosa de una ¨cadena de
bloques¨, tuvo un mal año, esta tecnología subyacente es sumamente popular en las
nuevas aplicaciones de negocio como el alquiler de autos. En 2018 me centré en la
cadena de bloques y presenté una solicitud de patente (16/128,359 EUA) en torno al
uso de la cadena de bloques para asegurar que todas las decisiones tomadas sobre
un modelo de IA se registraran y auditaran. Dichas decisiones incluyen las variables y
el diseño del modelo, los datos utilizados y la selección de funciones; así como la
capacidad de ver sus funciones latentes, y todos los científicos que desarrollaron
partes de los conjuntos de variables y los pesos del modelo. La suma y registro total
de estas decisiones, brinda la visibilidad requerida para gobernar de manera eficaz los
modelos y complacer a los reguladores.
Funciones latentes explicables: Otra patente (15/985,130 EUA) aborda la inmadurez
de la industria de IA en general, la cual es dolorosamente evidente cuando la
conversación se torna en una explicación de los algoritmos de aprendizaje automático.
En concreto, cuando los científicos de datos afirman que el aprendizaje profundo es
una tecnología que cambia las reglas del juego, las preguntas sobre los detalles de los
patrones aprendidos en una red neuronal superficial o profunda casi siempre se
responden con un silencio perplejo, incluso en las compañías más grandes. Esto es
completamente inaceptable para cualquiera que debe hablar con un cliente sobre el
modelo o presentárselo a un regulador. Basta considerar GDPR, que debe cumplirse
en muchos de los negocios de nuestros clientes para entender qué responder, “Este…
no sé” es inaceptable.
Mi patente de funciones latentes explicables “detona” un modelo de red neuronal en
un modelo multicapa conectado dispersamente, tal que cada nodo oculto se puede
explicar de manera concisa. Hace poco hablé sobre las funciones latentes explicables
en un taller de innovación en la Reserva Federal de EUA, y el público mostró gran
entusiasmo por integrar transparencia en los modelos en esta forma. Además, esta
capacidad ya se integró en FICO® Analytics Workbench™, lo que ha permitido a los
clientes de FICO construir estos modelos.
Eliminación de imparcialidad: Este tema de la IA ética es un poco más extenso.
Busca restringir el tipo de datos que se introduciría en un modelo para evitar la
imparcialidad —una piedra angular conceptual de la IA ética—. También he
presentado dos patentes (15/981,755 EUA y 15/819,338 EUA) para permitir decidir
con mayor facilidad si los datos específicos y las variables derivadas son aptos o no
para un modelo. Por ejemplo, un modelo que considere la altura de una persona sería
útil para calcular el costo de producción de un par de pantalones de mezclilla (que por
lo general tienen el mismo precio, independientemente del largo de la entrepierna),
pero no el potencial de ingresos del solicitante de un préstamo ni su capacidad
crediticia.
Todas estas patentes caben a la perfección dentro del concepto de adopción
regulativa de la IA ética, que se acelerará drásticamente en el 2019 conforme los
cuerpos reguladores impongan el requisito de entender y explicar los modelos de IA
destinados a impulsar las decisiones financieras actuales, incluyendo los miles de
millones de decisiones impulsadas por todos los productos de FICO: desde la
plataforma antifraude líder en la industria FICO® Falcon Platform hasta nuestras
soluciones de AML y ciberseguridad más recientes.
Síganme en Twitter @ScottZoldi para ver cómo se desarrolla la IA ética en el 2019.
Autor
Scott Zoldi, Director Ejecutivo de Analítica en FICO y responsable del desarrollo
analítico de los productos y las soluciones tecnológicas de FICO.