Com les grans finances fan fallida l’Amèrica Negra

Des de fa uns quants anys, alguns bancs i prestadors en línia fan servir funcions d’atenció al client automatitzades per ajudar els seus clients a obtenir ajuda amb problemes específics. Un dels bancs tradicionals més grans que confien en la intel·ligència artificial per a les funcions d’atenció al client és Capital One, el desè banc més gran dels Estats Units, que darrerament ha intentat presentar-se com una alternativa subprime a alguns dels altres gegants: potser els Spirit Airlines dels bancs. —un lloc disposat a oferir targetes de crèdit a persones amb puntuacions de crèdit més baixes i comptes corrents a dipositants de petits dòlars. Una part de mantenir els seus propis costos baixos ha implicat automatitzar algunes funcions d’atenció al client i animar els clients a fer la major part del seu negoci bancari en línia en lloc de fer-ho a les oficines de Capital One.

La funció d’IA d’atenció al client que Capital One va implementar va ser la primera d’aquest tipus. El seu desenvolupador, el Dr. Tanushree Luke, va patentar el seu disseny. Es va anomenar Eno, donant-li un esperit vagament humà que se suposava que feia que els humans reals se sentissin més còmodes interactuant amb ell.

Eno va ser dissenyat per involucrar els clients en xats digitals i utilitzar la informació que els clients van proporcionar per dirigir-los a serveis específics. Si algú tenia una pregunta sobre la factura d’una targeta de crèdit, per exemple, el programa de xat podria analitzar la informació del compte, la parla i el perfil del client d’aquesta persona i decidir exactament què fer a continuació. Calia enviar el client a un equip intern de cobraments o a un equip de vendes que pogués gestionar algun tipus d’actualització del servei?

Pot haver semblat senzill crear un programa com aquest, però no ho va ser. De manera similar a l’automatització de veu que moltes empreses van adoptar anys abans, la funció de xat d’Eno havia de ser capaç d’entendre una àmplia gamma de paraules i frases que els diferents clients van triar utilitzar als seus xats. Després va haver de processar aquesta informació i crear les seves pròpies respostes a les preguntes dels clients. Les respostes s’havien de sentir per als clients com si fossin més que simples aparellaments de respostes i preguntes que farien que el client se sentis atrapat en un món digital de “preguntes freqüents”. Havien de sentir com a respostes reals. Havien de fer que tota la interacció semblés suau, eficaç i agradable. El programa havia d’enviar la gent als llocs adequats i s’havia d’evitar que accidentalment no fessin negocis amb diversos tipus de clients perquè el banc no infringís les lleis d’igualtat de crèdit i antidiscriminació.

I per decidir com respondre a les preguntes dels clients, l’algoritme no només va mirar una petita mostra d’historials de clients o puntuacions de crèdit. Va utilitzar dades que connectaven els dispositius preferits dels clients (telèfons intel·ligents versus ordinadors portàtils), els models d’aquests dispositius, els tipus de cotxes que conduïen els clients, fins i tot els colors d’aquests cotxes. Un oceà de dades va permetre predir quins tipus de decisions financeres tenia més probabilitats de prendre cada client i com Capital One podia maximitzar els seus propis ingressos en funció d’elles. El Dr. Luke i el seu equip van tenir èxit en aquesta tasca complexa, fins i tot patentant la seva creació. Va ser, en un sentit molt significatiu, el primer d’aquest tipus a la banca. Altres bancs es van afanyar a desenvolupar-ne versions competidores.

Capital One havia fet un pas agosarat en contractar el Dr. Luke i aconseguir que dissenyés el seu producte. La seva formació era en el treball del govern. Havia tingut feina al Departament de Seguretat Nacional i al Departament de Defensa, on va ser responsable tècnica d’un projecte desenvolupat sota la Defense Advanced Research Projects Agency, el laboratori de noves tecnologies militars ultrapoderosos. Ella, amb pantalons curts, no estava encorbada, i estava orgullosa del seu treball a Capital One.

En les aparicions públiques, el doctor Luke, doctor en física teòrica i matemàtica per la Universitat George Mason, semblava, sobretot, sense por. Tenia confiança en la seva pròpia capacitat intel·lectual, però era més que això. No tenia por de parlar de coses de les quals semblava que els altres al seu voltant no volien parlar.

Potser va ser perquè era una dona en el món molt masculí de la informàtica i la programació. Potser va ser perquè era una dona marró. Fos el que fos, va mostrar una motivació per preocupar-se per si alguna cosa que estava fent era correcta o justa o justa d’una manera que moltes altres persones que treballen a la seva indústria simplement no ho feien. Feia temps que havia parlat obertament sobre els perills del biaix ocult en els algorismes i havia emfatitzat que les proves adequades, així com la diversitat entre les persones que realment escrivien nous programes per a l’aprenentatge automàtic, eren essencials.

A Capital One, es va adonar que el sector bancari no estava lluny d’altres indústries quan es tractava de desenvolupar les seves pròpies eines d’IA; La IA era el veritable oest salvatge del sector bancari. Els reguladors no sabien com controlar-ho. Els bancs no sabien a qui contractar per crear-lo o supervisar-lo. Algunes de les persones que treballaven en escriure codi nou per als bancs s’havien ensenyat elles mateixes el procés de codificació llegint-ne a Internet, la qual cosa significava que entenien molt millor com aconseguir que un programa informàtic seguia els passos A, B i C que no pas. tornar a través d’un programa completat i dissenyar una prova que demostrés de manera fiable si el programa funcionava, inclòs si estava fent exactament el que se suposava que havia de fer i ni més ni menys.

Allà on anava, el doctor Luke va advertir als seus oients, ja fossin companys de feina, estudiants o companys de la indústria tecnològica, que, en general, no s’estava fent prou per assegurar-se que les empreses utilitzaven la intel·ligència artificial només amb finalitats ètiques. i amb moltes garanties per evitar conseqüències dolentes no desitjades.

Aquesta va ser la seva reputació quan, el novembre del 2019, un altre gran banc, el banc dels Estats Units, amb seu a Minneapolis, va anunciar amb molta fanfàrria que havia allunyat el Dr. Luke de Capital One perquè fos el seu nou cap d’IA.

Aquest és un extracte de La paret blanca: com les grans finances fan fallida l’Amèrica negra per Emily Flitter. Copyright © 2022 per Emily Flitter. Reimprès amb permís d’Atria/One Signal Publishers.

Leave a Comment

Your email address will not be published. Required fields are marked *