Algoritmi: chi controlla il controllore?

Che cos’è un algo­rit­mo? La defi­ni­zio­ne più sem­pli­ce che si pos­sa tro­va­re è “una sequen­za ordi­na­ta e fini­ta di pas­si (ope­ra­zio­ni o istru­zio­ni) ele­men­ta­ri che con­du­ce a un ben deter­mi­na­to risul­ta­to in un tem­po fini­to”. Si trat­ta, per quel­lo di cui voglia­mo occu­par­ci in que­sto arti­co­lo, di un pro­ces­so attra­ver­so cui una mac­chi­na può risol­ve­re un pro­ble­ma e quin­di ese­gui­re un com­pi­to. E’ un algo­rit­mo quel­lo tra­mi­te cui Goo­gle sce­glie cosa far­ci vede­re e in che ordi­ne quan­do cer­chia­mo qual­co­sa sul suo moto­re di ricer­ca; è un algo­rit­mo quel­lo che sce­glie cosa far­ci vede­re sul­la nostra time­li­ne di Face­book o Twit­ter, è un algo­rit­mo quel­lo che ci con­si­glia cosa vede­re su Net­flix, ma non solo: sono algo­rit­mi anche i model­li uti­liz­za­ti dal­le socie­tà di rating finan­zia­rio o quel­li uti­liz­za­ti dal­le case auto­mo­bi­li­sti­che per con­trol­la­re i livel­li di emis­sio­ne dei loro vei­co­li.

In un mon­do che va sem­pre più ver­so l’automazione dei pro­ces­si, c’è chi pro­po­ne che sia­no gli algo­rit­mi a gover­na­re anche la pub­bli­ca ammi­ni­stra­zio­ne, appel­lan­do­si alla neu­tra­li­tà (e per­ciò alla mag­gior cor­ret­tez­za) di que­sti stru­men­ti mate­ma­ti­ci.

Ma qua­li rea­li garan­zie abbia­mo, ad oggi, rispet­to a que­sta sup­po­sta neu­tra­li­tà?

Le azien­de pri­va­te, come si può imma­gi­na­re, sono mol­to gelo­se dei loro algo­rit­mi, ma con il cre­sce­re del loro pote­re nel gover­na­re il flus­so di infor­ma­zio­ni in base al qua­le for­mia­mo le nostre opi­nio­ni sui più dispa­ra­ti argo­men­ti, sia­mo sicu­ri di poter­ci basa­re sul­la loro buo­na fede? Dob­bia­mo cre­de­re loro sul­la paro­la?

In fon­do si trat­ta, in un cer­to sen­so, di un pro­ble­ma simi­le a quel­lo del­la cor­ret­tez­za e dell’attendibilità del­le fon­ti di infor­ma­zio­ne: cia­scu­no di noi con­si­de­ra cor­ret­to un atteg­gia­men­to cri­ti­co nei con­fron­ti dei mez­zi di infor­ma­zio­ne “tra­di­zio­na­li”, per­ché dovreb­be esse­re diver­so per gli algo­rit­mi? Si trat­ta di codi­ci scrit­ti da per­so­ne fisi­che, com­mis­sio­na­ti da per­so­ne fisi­che, sul­la base di inte­res­si pri­va­ti e non neu­tra­li. Per­ché dovrem­mo sup­por­re che goda­no di una neu­tra­li­tà intrin­se­ca?

Sono in mol­ti, non ulti­mo il respon­sa­bi­le tec­no­lo­gi­co dell’Ente per la Pro­te­zio­ne Ambien­ta­le degli Sta­ti Uni­ti, a doman­da­re che il gover­no fede­ra­le si occu­pi del­la rego­la­men­ta­zio­ne degli algo­rit­mi. La stes­sa Unio­ne Euro­pea ha avvia­to un’indagine per abu­so di posi­zio­ne domi­nan­te da par­te di Goo­gle, accu­sa­ta di favo­ri­re i suoi pro­dot­ti rispet­to a quel­li con­cor­ren­ti tra­mi­te i suoi algo­rit­mi di ricer­ca.

Si trat­ta di una fac­cen­da tan­to com­ples­sa quan­to affa­sci­nan­te, che ha mol­te impli­ca­zio­ni e che potreb­be rischia­re di pas­sa­re per l’ennesimo desi­de­rio di ecces­si­va rego­la­men­ta­zio­ne di uno dei pochi set­to­ri pro­met­ten­ti e in cre­sci­ta in que­sta lun­ga fase di sta­gna­zio­ne eco­no­mi­ca, ma anche noi pen­sia­mo che sia giun­to il momen­to che i gover­ni del mon­do si inter­ro­ghi­no sul sem­pre più pre­pon­de­ran­te ruo­lo che gli algo­rit­mi stan­no assu­men­do nel­la vita quo­ti­dia­na di noi cit­ta­di­ni.

Le demo­cra­zie moder­ne si reg­go­no su un siste­ma di bilan­cia­men­to di pote­ri, quin­di è giun­to il momen­to che anche per gli algo­rit­mi ci si doman­di: who wat­ches the wat­ch­men?