Vida 3.0

Aquest títol correspon a un llibre escrit per Max Tegmar, un cosmòleg suec nascut el 1967. En ell parla de què significa ser humà a l’era de la intel·ligència artificial (IA). El llibre es va publicar el 2018.

Primer defineix la vida com un procés capaç de preservar la seva complexitat i de replicar-se, desenvolupant-se, passant inicialment per una fase biològica a la que nomena 1.0, després una altra cultural (2.0) i, finalment, la fase tecnològica (3.0). La primera, era sols producte de l’evolució, la segona ja era capaç de millorar el seu software mitjançant l’aprenentatge i la tercera ja pot millorar, fins i tot, el hardware.

Segons ell planteja, la IA ens podria permetre crear vida 3.0 al llarg d’aquest segle. El que caldria definir seria com aconseguir-la. En aquest debat proposa tres camps: el dels tecnoescèptics, els utòpics digitals i els que creuen en una IA benèfica.

Els primers, opinen que construir una IA sobrehumana no succeirà en centenars d’anys i que no cal preocupar-se. Els segons, diuen que és molt probable que succeeixi al llarg del segle XXI i ho veuen com un pas natural i desitjable dins l’evolució còsmica. Els darrers no creuen que arribi dins d’aquest segle, sinó que, a més, diuen que caldrà un gran esforç d'investigació sobre IA segura.

La IA actual només és capaç d’assolir objectius molt específics, mentre que la humana és extraordinàriament ampla. La nostra xarxa neuronal és un substrat potent per l’aprenentatge, ja que, pel fet d’obeir les lleis de la física, pot reorganitzar-se per millorar progressivament la seva capacitat d’implementar determinades funcions. La tecnologia duplica la seva potència cada dos anys (Llei de Moore). El seu cost s’ha reduït a la meitat en aquest període durant gairebé un segle. Això ha permès l’era de la informació.

El progrés a curt termini ha estat capaç de millorar considerablement les nostres vides en moltes formes. A la nostra vida personal, a les xarxes elèctriques, mercats financers, vehicles autònoms, robots cirurgians i sistemes de diagnosi. Un dels grans reptes serien els problemes tècnics relacionats amb la verificació, validació, seguretat i control. En especial els derivats del control d’armes per l’AI. Es podria plantejar un tractat internacional per prohibir determinades armes autònomes?.

Podríem arribar a tenir robojutges?, les nostres lleis haurien d’adaptar-se ben ràpidament per seguir el ritme dels avenços en IA. Temes com la privacitat, responsabilitat i regulació serien cabdals.

Segurament les màquines intel·ligents ens acabin substituint per complet, encara que fent-lo de manera progressiva. Però caldria, per compensar, que la riquesa generada servís per millorar les condicions de vida de totes les persones. Així s’evitaria que augmentés la desigualtat de forma significativa, tal com vaticinen molts economistes.

Altre dubte que es planteja és si algun dia aconseguim una IA general de nivell humà, podríem arribar a una explosió d’intel·ligència que ens deixés molt enrere? La podríem controlar?

Com podria evolucionar una cursa cap la IA general?, podrien sorgir diversos escenaris de cara als propers mil·lennis. Aquesta superintel·ligència podria conviure pacíficament amb el humans?, independentment de que es vegi forçada a fer-ho -esclavitzada- o de forma amigable.

Podria la humanitat extingir-se i ser reemplaçada per la IA o per res més, extinció total?. No existeix cap consens entre els experts de quin seria l’escenari desitjable. Tots tenen inconvenients. Cal definir ben clarament els nostres objectius futurs per no desviar-nos ni equivocar-nos.

Si arribéssim a aquest nivell de vida superintel·ligent, segurament en milions d’anys, es podrien aprofitar molt més eficaçment els recursos. La biosfera podria créixer de l’ordre de 32 magnituds i obtenir més recursos a través de la colonització còsmica a una velocitat propera a la de la llum. El primer producte a compartir o comercialitzar seria la informació. El problema podria sorgir quan les civilitzacions estiguessin tan separades que fos dificultós controlar-les. En aquestes noves civilitzacions es podrien crear nodes superintel·ligents, cooperadors o no, però que a l’expandir-se podrien donar com resultat l’assimilació, la cooperació o la guerra. 

La intel·ligència és la capacitat d’assolir objectius complexes. Podem conformar els objectius de la màquina amb els nostres? Podrem aconseguir que els aprenguin, adoptin i conservin? Es pot crear IA que vetlli per l’autoconservació, l’obtenció de recursos i la curiositat per comprendre millor el món?

La majoria dels éssers humans estan d’acord a grans trets sobre molts principis ètics, però no està clar com aplicar-los a altres animals no humans ni a la IA futura. No està clar com dotar una IA superintel·ligent d’un objectiu últim que no sigui indefinit ni condueixi a la destrucció de la humanitat. Cal investigar més a fons sobre algunes qüestions filosòfiques difícils de definir.

No existeix una definició indiscutible de «consciència», com a experiència subjectiva. Saber si les IA són conscients o no porta a nous problemes filosòfics i ètics. Poden sofrir, han de tenir drets ? Ho tindrem que decidir.