Cămătarii o să pună ChatGPT pe tine ca să-și recupereze banii. Uite cum începe

O industrie cunoscută la nivel istoric pentru hărțuirea și intimidarea oamenilor înlocuiește recuperatorii umani de creanțe cu unii AI, într-o mutare despre care o companie spune că „va schimba pentru totdeauna colectarea de creanțe”. 

Uneltele AI vor duce industria într-o „nouă eră a colectării de creanțe”, potrivit companiei Skit.ai. Din New York și Bangalore. Un agent cu voce digitală - noua încarnare a unui robocall, folosind chatbot-uri AI și text-to-speech pentru conversații dinamice - ar putea face milioane de apeluri externe în doar câteva zile, susține compania, ar putea contacta și cere plăți de la întregul portofoliu de datornici ai agenției la un preț mult mai mic decât al agenților umani. 

Agenții umani ar putea folosi AI la fiecare stadiu al procesului de colectare, susține blogul companiei, oferind „scalabilitate instantanee” prin „automatizare end-to-end”, ceea ce desigur ar crește productivitatea și ar reduce costurile. Însă pentru cineva de partea cealaltă a apelului, șansa de a vorbi cu un om real în timpul procesului devine din ce în ce mai îndepărtată. 

Skit.ai nu a răspuns întrebărilor puse de Motherboard despre folosirea AI pentru colectarea de creanțe. Totuși, din ce în ce mai mult, serviciile software comercializate pentru recuperarea de creanțe încep să încorporeze machine learning și AI generativă, cu promisiunea de a optimiza recuperarea fondurilor de la îndatorați. Și într-o perioadă în care entuziasmul AI e în floare și datoriile sunt mai mari ca niciodată, aceste utilizări pot doar să crească. 

Perspectiva ca sistemele automate AI să facă apeluri către oamenii stresați adaugă un alt element distopic unei industrii care demult s-a concentrat pe oameni săraci și marginalizați. Colectarea de creanțe și forțarea au mult mai multe șanse să se întâmple în comunitățile de culoare decât în cele albe, iar cercetările au arătat că datoriile și ratele dobânzilor exacerbează sărăcia, ținând oamenii captivi într-un ciclu fără sfârșit.

În ultimii ani, debitorii din SUA au tot acumulat datorii. În al patrulea trimestru al anului 2022, datoria gospodăriilor a crescut la un record de 16,9 trilioane de dolari conform Rezervei Federale din New York, însoțită de o creștere a ratelor de nerambursare a datoriilor mai mari, cum ar fi creditele ipotecare și împrumuturile auto. Soldurile restante ale cardurilor de credit sunt, de asemenea, la niveluri record. Pandemia a generat un boom uriaș al cheltuielilor online și, pe lângă cardurile de credit tradiționale, cei mai tineri au fost atrași și de startup-urile fintech care promovau noi produse financiare, cum ar fi modelul extrem de popular de tip „cumpără acum, plătește mai târziu” al Klarna, Sezzle, Quadpay și altele similare. 

Așadar, datoriile cresc și, odată cu creșterea ratelor dobânzilor, din ce în ce mai mulți oameni nu reușesc să-și achite ratele. Asta înseamnă că mai multe datorii restante sunt transferate către colectare, oferind industriei șansa de a aduce puțin AI în procesul vechi de convingere și presare a oamenilor să-și achite datoriile. 

Pentru un insight în modul în care funcționează, nu trebuie să cauți mai departe de descrierea companiilor care produc software de colectare de creanțe. Aici, produsele sunt descrise într-un amestec de limbaj general de corporație și previziuni distopice: SmartAction, un alt produs AI conversațional precum Skit, are o ofertă de colectare a creanțelor care pretinde că ajută la „atenuarea sentimentelor negative pe care clienții le-ar putea experimenta cu un om în timpul unui proces neplăcut” - pentru că vor fi cu siguranță mai confortabili să încerce să negocieze plățile cu un robot. 

Între timp, Latitude„rezolvă lacunele din funcționalitate, reducând în același timp presiunea asupra agenților tăi și crește ratele de recuperare”; Katabat oferă „orchestrare completă omnicanal, machine learning adevărat” și un „motor puternic de strategie de colectare”; iar TrueAccord rulează o „platformă de recuperare și colectare lider în industrie, alimentată de machine learning și o experiență digitală prietenoasă pentru consumatori”. TrueAccord se mândrește, de asemenea, că oferă experiențe de colectare a creanțelor mai empatice, care sunt obținute în mod natural prin semnele distinctive ale compasiunii: „experimentare cu testarea A/B, cercetarea consumatorilor și machine learning”.

Este aceeași promisiune de bază ca a multor produse AI: face mai multe, mai rapid, cu mai puțini oameni; hrănește datele pe care le colectezi înapoi în sistem; ajustează, rafinează și repetă atâta timp cât ai nevoie. 

Într-un e-mail către Motherboard, Timnit Gebru, fondator al Distributed AI Research Institute (DAIR), descrie utilizarea AI în colectarea de creanțe ca „pedepsirea celor care deja se chinuie”.

„Într-o perioadă în care inegalitatea veniturilor este la cote mari, când ar trebui să reducem lucrurile precum datoriile studenților, încercăm să construim unelte ca să punem și mai multă presiune pe cei care se chinuie? Asta s-ar aplica chiar și dacă software-ul ar funcționa așa cum este intenționat să o facă”, a spus Gebru. 

„Pe lângă asta, știm că există atât de multe biasuri pe care le au aceste sisteme bazate pe LLM, care codifică viziuni hegemonice și stereotipice”, a adăugat Gebru, referindu-se la constatările din lucrarea despre modelele mari de AI la care ea a fost coautoare, împreună cu alți cercetători. „Faptul că nici măcar nu știm ce fac și că nu sunt obligați să ne spună, este de asemenea, incredibil de îngrijorător.”

Unele dintre companiile care au cel mai mult de câștigat din integrarea AI sunt cele care există strict pentru a colecta creanțe. Aceste companii, cunoscute drept cumpărători de datorii, achiziționează creanțe de la alți creditori la prețuri reduse și apoi încearcă cât pot de mult să facă datornicii să plătească suma totală. Nu oferă niciun împrumut și niciun fel de serviciu pentru care clienții le-ar datora bani. Este un model de afacere construit pe ideea de a profita de pe urma oamenilor care au rămas în urmă cu plățile datorate altor entități. Se bazează mult și pe sistemul judiciar civil, despre care unii experți cred că va fi în curând inundat de procese generate de AI pentru datorii. 

Mulți vânzători de software de colectare a datoriilor își fac publicitate produselor acestor cumpărători terți, dar o companie, Arrears.com, este una dintre puținele care menționează în mod explicit modele de limbaj mari în același timp. Începând de acum, platforma de colectare digitală pretinde că integrează GPT-3, dar în mod clar își propune să se orienteze către noua actualizare: o postare recentă de pe blog ridică în slăvi lumea captivantă a GPT-4 Debt Collection, care aparent va fi mai personalizată, mai eficientă și mai inteligentă emoțional atunci când va cere oamenilor să plătească datoriile. 

„Să nimerești echilibrul adecvat dintre asertivitate și empatie este o provocare semnificativă în colectarea de creanțe”, scrie compania în postarea de blog, care susține că GPT-4 are abilitatea de a fi „ferm și empatic” cu clienții. 

Atunci când sistemele algoritmice, optimizate dinamic, sunt aplicate în domenii sensibile precum creditarea și finanțele, există o posibilitate reală ca biasul să fie introdus fără să se știe. Un raport McKinsey cu privire la strategiile de colectare digitale sugerează în mod clar că AI poate fi utilizată pentru a identifica și segmenta clienții în funcție de profilul de risc, de exemplu, scorul de credit plus orice alte date pe care le poate lua în considerare creditorul și să ajusteze tehnicile de contact în consecință. 

Odette Williamson, avocată senioare la National Consumer Law Center, spune că modelele AI pot preleva biasuri sistemice din datele cu care au fost antrenate, care reflectă lunga istorie a discriminării împotriva grupurilor cu venituri scăzute și comunitățile de culoare. 

„Sunt datele (de antrenament) inexacte și înșelătoare sau sunt incomplete?” spune Williamson. „Având în vedere istoria noastră rasistă din SUA… vor reflecta aceste date tendințele discriminatorii și, dacă da, cum influențează ele deciziile pe care le-ar lua un sistem cu privire la cine să fie vizat și cât de agresiv să fie în colectarea creanțelor?”

Un exemplu real al daunelor provocate de colectarea automată a datoriilor a venit din Australia în 2016, când guvernul a plătit în exces ajutorul de asistență socială și apoi a folosit un sistem automat pentru a încerca să obțină banii, cu rezultate dezastruoase. 

O conștientizare a rezultatelor părtinitoare - care au fost documentate în mai multe domenii, de la pedepsele cu închisoarea până la prezicerea ratelor de abandon școlar și la monitorizarea fraudei sociale - necesită un audit atent, a spus Williamson. 

„Până la urmă, trebuie să ne asigurăm că aceste modele sunt solide din punct de vedere statistic, că sunt testate în fiecare etapă de dezvoltare și, de asemenea, atunci când sunt implementate… și dacă modelele afișează rezultate discriminatorii sau părtinitoare și nu pot fi rezolvate, atunci pur și simplu n-ar trebui să fie folosite”, a spus ea. 

Agențiile de reglementare sunt conștiente, într-un sens general, că AI prezintă multe riscuri posibile pentru finanțarea consumatorilor. Cu doar câteva săptămâni în urmă, la finalul lunii aprilie, Biroul pentru Protecția Financiară a Consumatorului (CFPB) a emis o declarație comună cu Departamentul de Justiție, Comisia Federală pentru Comerț și Comisia pentru Șanse Egale în Muncă, în care a declarat intenția de a viza practicile discriminatorii care apar prin utilizarea sistemelor automatizate. 

Contactat pe e-mail, un purtător de cuvânt al CFPB nu a confirmat dacă sistemele de colectare a creanțelor bazate pe inteligența artificială sunt un domeniu specific de îngrijorare, dar a declarat pentru Motherboard: „Indiferent de tipul de instrumente utilizate, CFPB se va așteapta ca recuperatorii de creanțe să respecte toate cerințele Fair Debt Collection Practices Act (legea privind colectarea corectă a datoriilor) și interdicțiile Consumer Financial Protection Act (legea privind protecția financiară a consumatorilor) împotriva practicilor neloiale, înșelătoare și abuzive.”