La regulació de les tecnologies emergents - View source for Roig 2018b



La regulació de les tecnologies emergents

Antoni Roig

<span id='_GoBack'></span>IDT-UAB, Institut de Dret i Tecnologia, Universitat Autònoma de Barcelona

Es diu que el Dret sempre va per darrere de la tecnologia. No es tracta però d’una dificultat deguda només a l’aspecte canviant de la tecnologia. Hi ha una inadaptació més profunda. Tradicionalment, el Dret prefigura de manera general i ''a priori'' el que després s’aplicarà. Doncs bé, amb la IA ara el moment clau que caldrà regular seran els processos de decisió automatitzats i les eines de suport a la decisió. No sembla possible ja abordar-los només amb regles, i fins i tot els principis generals, tradicionalment útils en àmbits canviants, cada vegada semblen només autoritzacions generals als tècnics: el principi de Privacy by Design sovint és una crida sense més a fer Privacy Enhancing Technologies. Davant això, s’està recorrent de manera creixent als Impact Assessment o anàlisi de riscos, per exemple en protecció de dades. No es possible pensar, però, en l’optimització final de riscos com una cosa definitiva, sinó més aviat com un procés on cal constantment anar re-avaluant els riscos. La institucionalització d’aquesta mena de procés de regulació continuat està per fer: semblen aparèixer plataformes digitals informals amb funcions co-reguladores, per exemple en nanotecnologia, però encara no formen part de les polítiques de “Better Regulation” de la UE. Potser, a l’igual que succeeix a nivell de l’empresa entre el model de negoci i les tecnologies de la informació, estem assistint progressivament també a un alineament entre la regulació i la tecnologia. Alguns reptes per al regulador semblen immediats: el maig de 2018 s’aplicarà finalment el Reglament General Europeu de Protecció de Dades, l’art. 22 del qual contempla les decisions automàtiques, i es comença també a parlar d’un full de ruta per a una futura governança dels robots assistencials.

:1. El Dret del futur no tan llunyà

1. El regulador clàssic: regles i principis

El Dret tradicional usa habitualment regles i principis quan pretén regular un àmbit de la realitat. En aquest sentit, la figura del legislador, ficció que prové de les Revolucions liberals, és la d’un regulador amb normes generals i ''a priori'', que els aplicadors del Dret –Administració pública, Jutges- concreten quan l’apliquen. En el camp de les noves tecnologies se sol destacar el retard de la regulació a l’hora de tenir en compte els escenaris nous que apareixen. Aquesta anàlisi però sembla considerar que és una qüestió d’informació i de velocitat de reacció. En aquest sentit, un legislador més informat i més eficaç a l’hora de fer les regles i els principis podria ser considerat una eina adequada per regular les tecnologies emergents. En aquest treball es voldria aportar elements per tal de partir d’una altra hipòtesi. En efecte, si no es canvien les actuals eines reguladores de què disposa el legislador, aviat aquest deixarà de ser un regulador efectiu en els àmbits tecnològics.

Amb l’expressió regulador efectiu ens referim a un òrgan que prefigura el context amb els qual els poders públics i els actors socials duen a terme les seves activitats. La irrellevància no provindrà del fet que la majoria governamental-parlamentària deixi de fer lleis i reglaments, sinó de que aquests no seran tinguts en compte com a marc regulador de referència. La situació pitjor seria la manca de concreció, o la impossibilitat d’aplicació dels principis avançats. A vegades aquests factors són considerats fins i tot positius per aquells sectors que prefereixen amplis sectors desregulats. Per tant, hi pot haver col·lectius a qui el declivi del legislador pugui semblar fins i tot positiu des del punt de vista liberal clàssic d’una visió de l’economia de mercat sense intervencionisme. El problema rau en que no es podrà ja activar el regulador en els casos on es consideri que les forces del mercat per sí mateixes no són suficients per obtenir una ràpida i efectiva sortida a una situació de crisi o de conflicte. És a dir, el legislador corre el risc d’esdevenir una ficció inútil.

Conscient del seu poder més limitat, el legislador, sense arribar a un canvi de paradigma, ha fet algunes passes per retrobar l’eficàcia del legislador de l’Estat del benestar, potser el model més avançat de legislador que ha aparegut: regulador no només de lleis generals per a tothom –tothom és igual davant la llei i té dret al mateix jutge- sinó també “microregulador” en el sentit que ha aprovat lleis sectorials, i fins i tot a fet tractaments diferenciats per afavorir col·lectius necessitats. El primer pas ha estat un canvi de regulador de regles a regulador de principis. A vegades, els principis s’han vinculat a experiments d’autoregulació de sectors, on els principis estatals eren només un marc obert que convidava a adoptar codis de bones pràctiques i recomanacions voluntàries dels principals actors en un sector. La importància actual de la regulació tècnica, per exemple de les normes ISO, és un exemple destacat de l’abast d’aquesta opció.

2. La pèrdua d’eficàcia del Dret

Ara bé, aquests i altres intents com els que veurem en el següent apartat, anomenat “Impact Assessment” o anàlisi de riscos, no semblen qüestionar-se l’eficàcia del legislador, sinó que només complementen la seva velada ineficàcia. És talment com si el legislador fes concessions a altres actors per tal que apliquin les seves regles i principis amb elements que en el passat no eren eines reguladores. Sense replantejar-se com millorar la eficàcia del legislador, i sense renunciar tampoc al mite del monopoli de la legislació per part del legislador, es busca un aliat en l’aplicació del Dret. Es reitera que les opcions triades sempre són tècniques per afavorir l’aplicació de les regles i els principis jurídics, dels quals treuen la seva legitimitat. El paraigües legal fa ara legítims acords tècnics o autoregulacions que no tenien més que un valor intern en el passat. El problema és, però, que no queda gens clar que aquestes noves eines reguladores siguin només aplicacions de les regles i els principis.

El Dret perd eficàcia com a regulador directe, i necessita doncs –sense admetre-ho explícitament- de complements degudament autoritzats per regles o principis. Doncs bé, això no és cap moda del moment sinó que aquestes “concessions” seran la regla general en el Dret del futur. En efecte, ja no és possible regular per endavant tots els escenaris i assignar-los unes conseqüències jurídiques: el paradigma de aquest llei prèvia és la legalitat penal, on cal que se sàpiga per endavant quins supòsits de fet són considerats delicte i quines conseqüències jurídiques –penes, sancions- tenen associades. Molts sectors tecnològics emergents fan impossible aquesta regulació prèvia. Per exemple, la regulació dels robots socials s’ha intentat basar inicialment en principis. S’està plantejant una regulació europea al respecte, si més no una autoritat independent que podrà emetre recomanacions o normes tècniques. Els primers enginyers van pensar en prefigurar els escenaris que es podria trobar el robot per tal d’indicar-li les corresponents respostes adequades al Dret, respectant la seguretat de l’usuari, la seva autonomia, dignitat i privadesa, entre d’altres. Ràpidament, s’ha vist que aquesta via no és possible. Es parla ara d’introduir unitats de moral autònoma, basades en intel·ligència artificial, per tal que el robot assistencial trobi respostes a situacions no previstes. Fins i tot es podria aprofitar la connexió amb altres robots, amb Cloud Robotics, per tal d’utilitzar l’experiència compartida com a exemple a seguir. Els reptes per a la regulació d’aquests casos passen per a establir controls periòdics sobre les decisions “ètiques” adoptades pel robot assistencial, confirmant o anul·lant la resposta donada en un cas. Però seran controls a posteriori, potser setmanals, quan el robot assistencial decidirà autònomament com a regla general. Això mostra clarament la conveniència que el regulador pugui donar eficaçment indicacions a l’enginyer que ha de posar la unitat de “’ètica autònoma”, versió per defecte, en els robots que surten al mercat.

Com hem vist, el Dret perd eficàcia directa com a regulador, obrint camp a complements de regulació autònoms i tècnics. El Dret, tot i que no es diu, cada cop depèn més d’autoritzacions a reguladors no públics. Aquest és un fet nou en l’Estat constitucional de Dret i caldria abordar-ne les conseqüències des del punt de vista de la legitimació democràtica de les regulacions resultants. Certament, les autoregulacions no són un fenomen nou i fins i tot s’han fomentat en els anys 80-90 per raons ideològiques. Ara bé, ara es tracte d’autoregulacions obligades, és a dir que el legislador no pot deixar de fer-les si vol que les regels i els principis jurídics siguin efectius.

Igualment preocupant és la pèrdua d’eficàcia del Dret com a regulador indirecte, amb regles i principis que perden la capacitat de dirigir i orientar al qui ha de fer els complements, ja siguin “Impact Assessments”, recomanacions o codis de bones pràctiques. Existeixen moltes raons per explicar aquesta dificultat per dirigir l’aplicació del Dret amb principis generals. Sense necessitat d’entrar a desenvolupar aquest punt, podríem reunir les causes en una tendència general a reforçar l’aplicació com a moment clau de la regulació. Per tant, dos-cents cinquanta anys després de la invenció del legislador general i previ a l’aplicació, estaríem arribant a un preocupant final de paradigma. Seria preocupant no només per la manca de consciència sobre el fet, cosa que deu ser pròpia de tots els finals de paradigma, sinó per la importància que té el Parlament com a legitimador de les normes general i prèvies en les societats democràtiques. Si les aplicacions no segueixen les regles i els principis, és tota la cadena de validesa i legitimació democràtica la que es veu afectada.

Intentarem en aquest treball oferir una descripció precisa d’alguns aspectes d’aquesta evolució (apartat II “Impacts Assessments”), així com dels intents de reforma del legislador clàssic sense trencar amb el paradigma (apartat III “Better Regulation”) i finalment avançarem algunes possibilitats emergents o encara per arribar que podrien anar més enllà i garantir aquest cop sí la legitimitat d’una regulació eficaç en el moment de l’aplicació (apartat IV: possibilitats de futur).

:2. Alguns intents més enllà de les regles i els principis: Impacts Assessments o anàlisi de riscos, Privacy-by-Design

1. La crida a la protecció tècnica de la privadesa

El Reglament General de Protecció de Dades que s’aplicarà a partir de maig de 2018 ha incorporat expressament un principi que era ja habitual en la discussió jurídica anterior: el Privacy-by-Design. Es tracta d’una crida a les tecnologies garants de la intimitat –Privacy Enhancing Technologies, PET-. Seguint a Cavoukian, (2009), les garanties han de ser preventives i no reactives; haurien d’estar previstes per defecte i formar part del disseny de l’eina; caldria no fer càlculs de suma-zero entre privadesa i seguretat -de manera a evitar que se sacrifiqui una en benefici de l’altre-; cal considerar una protecció des de l’inici de la producció del producte o servei; i cal oferir transparència i adoptar una perspectiva preferentment basada en l’usuari (user-centric). Ara bé, per a l’enginyer, moltes vegades aquests principis són molt abstractes i difícilment suposen una guia clara a l’hora de desenvolupar les seves estratègies de protecció de la privadesa. De fet, la pròpia noció de privadesa és diferent en l’àmbit jurídic i en la comunitat de PET, com a mínim des de la introducció de la noció de differential privacy (Dwork, 2006). Un altre cas paradigmàtic de falta de seguiment dels principis jurídics són les PET que protegeixen xarxes socials: en comptes de protegir els usuaris individuals d’acord amb els principis del Dret, fan una cosa molt més efectiva: protegir el “graf” de les relacions entre usuaris de la xarxa. D’aquesta manera, els enginyers de PET per a xarxes socials ja són conscients que només protegint col·lectivament els usuaris podran garantir-ne un dret individual a la privadesa. Com a mínim, ho podran garantir per al usuaris que quedin emmascarats per un ús d’acord amb la mitjana; no hi ha cap protecció possible, ni tan sols amb PET, per a usuaris que divulguin més dades personals que la mitjana d’usuaris de la xarxa social. Aquí, les úniques garanties han de ser educatives: l’usuari hauria de saber que el principi de privacy-by-design no el pot protegir si no restringeix el seu ús a la mitjana: podria camuflar el seu perfil amb “soroll” per assolir un perfil mitjà, però de nou només la protecció col·lectiva el pot protegir individualment.

2. Impact Assessments: anàlisi de riscos

El nou Reglament Europeu de protecció de dades (GDPR , en anglès), que com hem dit s’aplicarà a partir del 25 de maig de 2018, es fonamenta en els principis tradicionals de la protecció de dades, però està molt més orientat cap a l’aplicació efectiva. Els responsables de les dades han de tenir en compte un nou principi, la responsabilitat proactiva (accountability principle). En aquest sentit, caldrà que adoptin polítiques de privades adequades,  i avaluïn correctament els possibles riscos amb impact assessments o anàlisis de riscs. A més hauran de preveure procediments interns per tal de gestionar les demandes i preveure en alguns casos delegats de protecció de dades. Els responsables de les dades no només hauran d’aplicar això, sinó que d’acord amb el GDPR, hauran de poder demostrar la efectivitat de les mesures. El legislador europeu és doncs conscient que els principis de la anterior Directiva europea de protecció de dades no eren del tot eficaços. La seva reacció és significativa, doncs en comptes de buscar mecanismes per fer una regulació indirecta més eficaç, trasllada la responsabilitat als responsables, que hauran no només de ser eficaços, sinó de poder demostrar-ho si s’escau. No es tracta doncs d’una regulació directa basada en els drets dels subjectes, sinó d’una regulació indirecta sobre les obligacions dels responsables que hauran d’aplicar el GDPR (Kiss et al., 2015).

Les etiquetes de radiofreqüència (RFID, en anglès) són un exemple de impact  assessment desenvolupat pel grup de treball de l’Article 29 de la Directiva de protecció de dades –l’altre exemple és el Smart Metering-. Aquesta crida a usar anàlisi de riscos per protegir la privadesa (Privacy Impact Assessment, PIA) és positiva, en el sentit que incorpora informació rellevant del camp a regular i la relaciona amb els principis legals de consentiment, minimització de les dades i limitació de la finalitat. Fins i tot es parla ara de metodologies generals. Aquesta “estandardització” de Metodologies universals per a l’anàlisi de riscos (Benefit-Risk assessment) por aportar marcs generals d’utilitat i afegir transparència als processos de decisió (Walker et al., 2015).  No és clar, de totes maneres, que pugui realment servir per a una regulació efectiva de marcs generals aplicables.

El grup de treball de l’Article 29 de la Directiva de protecció de dades ha advertit, a més, que aquestes anàlisis de riscos són només complements de la regulació, però que de cap manera són un substitut de la obligació de compliment legal. El repte és doncs com es poden incloure els principis legals en els marcs reguladors concrets o tècnics. El camí sembla portar cap a una co-regulació. No es tracta d’una tècnica nova, ja que, com veurem a continuació, ja està prevista en les recomanacions de “Better Regulation” de la Unió Europea. Ara bé, fins ara el seu rol és secundari o fins i tot marginal. En ele futur immediat, sembla que anirà guanyant terreny i adoptarà formes noves. Abans de veure’n possibles manifestacions en l’apartat IV (Possibilitats de futur), en el proper apartat descriurem les actuals reformes del legislador europeu per afavorir l’eficàcia de les seves regulacions.

:3. La regulació jurídica més avançada de les tecnologies emergents: “Better Regulation” a la UE

La possibilitat de co-regulació es troba, com hem dit, a les Recomanacions sobre una millor regulació de la Unió Europea (“Better Regulation Guidelines”) amb un apartat VII sobre les consultes als responsables. D’acord amb el programa de la Comissió Europea “Regulatory Fitness and Performance (REFIT), els objectius d’optimització de la regulació de la Comissió passen per reduir els costos de la  regulació i simplificar la legislació existent. Al gener de 2016, la Comissió va tenir la primera trobada de la plataforma REFIT. D’altra banda, s’ha creat una “caixa d’eines” (“Better regulation “Toolbox”), que contempla expressament com a eina 18, l’autoregulació i la co-regulació. La perspectiva en ambdós casos és clàssica, encara enfocada a la consulta i participació dels responsables, i no tant a una àmplia co-regulació. Per això, els incipients mecanismes co-reguladors no clàssics, que descriurem en l’apartat IV, no estan recollits ni emparats en la plataforma REFIT.

:4. Possibilitats de futur: la co-regulació basada en plataformes digitals

La millora de l’eficàcia del Dret sembla passar per un aprofundiment de la co-regulació. Ara bé, no es tracta d’augmentar les consultes i la participació dels destinataris, cosa que ja passa actualment i no és una millora determinant. Cal un nou espai de co-regulació. Les noves tecnologies poden oferir-lo, com a mínim amb dos supòsits: plataformes de governança i institucions electròniques socials.

1. Plataformes de governança

Ens limitarem aquí a esmentar les  plataformes de governança en l’àmbit de les nanotecnologies.

A nivell de la Unió Europea, ja fa molts anys que s’utilitzen plataformes tecnològiques (European Technology Platforms, ETP) com a eina per ajudar a les empreses, laboratoris i altres destinataris per tal de complir amb les polítiques públiques i per desenvolupar programes de recerca (Proskuryakova, L., et alter, 2017). Les ETP varen ser adoptades ja en el 2003 s’han anat ampliant progressivament. Es pot trobar un  llistat actualitzat de les vigents a [http://ec.europa.eu/research/innovation-union/index.cfm? http://ec.europa.eu/research/innovation-union/index.cfm?]pg=etp. L’objectiu d’aquestes plataformes és posar en comú el coneixement tecnològic, la indústria, el regulador i les institucions financeres per tal de desenvolupar programes de recerca a llarg termini. Amb el programa Horizon 2020, les ETP acumulen nous rols, com és ser assessors externs, i recollir la participació de la societat. Això suposa que les seves tasques es completen amb una funció més acusada de mobilització i de difusió. En l’àmbit de les nanotecnologies, que agafem com a exemple, es poden destacar la European Technology Platform on Nanomedicine (ETPN), que fa més d’una dècada que aporta deficnisions i assessorament ([http://www.etp-nanomedicine.eu www.etp-nanomedicine.eu]), així com ENIAC ([http://www.eniac.eu www.eniac.eu]), en l’ambit de la nanoelectrònica. Més encara, estan apareixent ETP transversals (cross-cutting initiatives) per tal de coordinar millor i evitar fragmentacions. En aquest sentit. Existeix un “Nano-Hub”, amb la iniciativa europea per un desenvolupament sostenible mitjançant nanotecnologies ([http://www.nanofutures.info www.nanofutures.info]). Aquesta meta-ETP reforçaran probablement les seves característiques de mobilització i disseminació i són clars candidats a acollir iniciatives co-reguladores.

De manera més general, la Unió Europea  incentiva la constitució de “Clusters” per a la nanotecnologia. Així, els consorcis del diferents projectes europeus estan incentivats a col·laborar i crear sinèrgies per compartir els resultats en benefici mutu. Dins dels propis grups de treball no és estrany trobar-hi reguladors i indústries: així, el projecte del setè programa marc europeu NANoREG desenvolupa eines per avaluació de riscos [37]. Doncs bé el centre conjunt de recerca (Joint Research Centre, JRC) de la Comissió Europea ha publicat la terminologia harmonitzada pel projecte NANoREG en l’àmbit de la salut ambiental i l’assessorament en seguretat dels materials, l’abril del 2016. Aquest és un exemple clar de co-regulació a partir d’una plataforma [38]. El projecte Horizon 2020 ProSafe (2015-2017) i NanoREG2 (2015-2019) segueixen aquesta línia i proveeixen avaluacions de riscos complementàries i gestió de riscos d’acord amb el nou principi de “Safe by Design”. NanoREG2 té clarament una tasca co-reguladora, ja manifesta en el propi nom del projecte: “Development and implementation of Grouping and Safe-by-Design approaches within regulatory frameworks”. Igualment, els seus objectius són: (…) “pre-validation platform on non-testing and testing methods are techniques promoting innovation by developing instruments to anticipate regulations”. S’espera un ProSafe White Paper que integrarà molts resultats de NANo-REG en forma de recomanacions per al legislador. Els projectes europeus sobre nanotecnologia estan integrats en un European Nanosafety Cluster, i aquest pot esdevenir potser algun dia una plataforma formal de co-regulació. De fet, ja disposa d’un Working Group sobre “Safe by Design, Innovation and Regulation”.

Un altre exemple pot ser el projecte europeu EC4SafeNano (2016-2019) , inclòs en el Nanosafety Cluster. Els seus resultats esperats inclouen no només la col·laboració, la coordinació i la integració de xarxes i recursos sinó també resultats propis de la co-regulació, concretament soft law: recomanacions, bones pràctiques i estàndards. Per tal que el mecanisme co-regulador sigui eficaç i legitimador, els resultats no haurien de ser només ratificacions per part del regulador de les recomanacions tècniques dels experts. Caldria, a més, una participació qualitativament superior per part del propi regulador: la defensa de l’interès general. De moment, aquesta defensa dels interessos comuns es limita en bona part a la “Responsible Research Innovation, RRI”. Es tracta d’una nova aproximació a la governança en l’àmbit de la tecnologia i la ciència en el context del programa Horizon 2020. Ja s’ha mencionat la relació important entre la RRI i nanotecnologia (Lingner S. et alter., 2016). El principal contingut de la RRI seria el següent: implicació pública, igualtat de gènere, educació sobre la ciència, open access i ètica. La RRI busca un millor alineament entre les polítiques científiques i la societat en els àmbits de la nanotecnologia, la biologia sintètica i el genoma humà (Landeweerd, L. (2015). Ara bé, malgrat els exemples, no hem encara assolit el nivell de les plataformes formals de co-regulació en nanotecnologia. El contingut principal de les actuals plataformes és la gestió del NanoRisk management, i sovint es tracta més aviat de plataformes informals, amb aspectes co-reguladors tangencials. El seu principal valor actual és assessorar tècnicament el regulador, i traslladar valuosa informació de la reacció dels futurs destinataris de la regulació. La defensa de l’interès general es troba però limitada, en el millor dels casos, a la perspectiva de la RRI.

Algunes plataformes arriben fins a oferir eines de suport a la decisió. Aquí és veu clarament la necessitat d’introduir els criteris d’interès general esmentat abans. Si no es fes, llavors apareixeran eines basades només en reducció i optimització de riscos, com SUNDS (Malsch, I., et alter, 2017). Les estratègies de reducció de riscos i les plataformes de gestió són processos entrellaçats. Tots dos formen part de la governança de la nanotecnologia. El criteri de la reducció de riscos per assolir la seguretat no hauria de prevaldre sobre els interessos generals. Es poden oferir eines automàtiques de suport a la decisió, però no haurien d’estar basades només en la reducció de riscos.  La il·lusió de la reducció definitiva dels riscos no està justificada. En el seu lloc, és preferible optar per la governança de la reducció temporal de riscos, en un equilibri permanent amb els interessos generals i els drets fonamentals. És millor considerar-ho un constant procés de co-regulació amb ex ante i també ex post impact assessments. La regulació adquireix així un caire circular -i no ja de regla o principi general/previ cap a aplicació concreta/posterior- que recorda la gestió dels cicles de vida dels productes i la constant avaluació de l’alineament entre la tècnica i el model de negoci. En un Estat, el model de negoci són els interessos generals.

2. Institucions electròniques socials

Existeix una branca de la intel·ligència artificial que contempla institucions electròniques, anomenats també sistemes socio-tècnics, intel·ligència artificial social o sistemes multi-agent. Defensarem aquí la seva utilitat en el procés de co-regulació. Igual com succeeix amb les institucions convencionals, les institucions electròniques faciliten la coordinació definint un context en el qual només alguns objectes i entitats existeixen, i se’ls permet interaccions d’acord amb restriccions institucionals. Les accions dels agents causen estats electrònics. El que ens interessa d’aquestes eInstitucions és el fet que les regles i els principis formen part dels criteris amb els quals es garanteix el compliment. En aquets sentit, no hi ha cap dificultat per integrar les regles i principis en el mateix centre de les institucions que serveixin d’eines de suport a la decisió.  De fet, el compliment de regles esdevé un element definidor de les institucions electròniques. D’acord amb les regles un agent pot entrar en una organització, tenir-hi un rol i fins i tot marxar-ne. S’admet fins i tot en algunes institucions electròniques la possibilitat de vulnerar les regles, tot i que la institució pretén afavorir-ne el seu compliment.

Aquestes institucions disposen d’una xarxa d’escenaris possibles, entre els quals es mouen els agents. En resulta un espai virtual amb interaccions autoritzades: s’anomenen  “normative multi-agent systems”, amb una realitat pròpia de la institució. No sembla massa agosarat considerar que aquestes institucions electròniques puguin un dia ser plataformes que suportin aplicació de normes legals o preses de decisió amb rellevància jurídica.

De moment, es tracta de propostes molt limitades o teòriques que s’han aplicat als casos següents [16]:

- Simulació d’una llonja de pescadors: es produeixen subhastes i compres fins a exhaurir les existències.

- Gestió virtual de l’aigua: cada conca disposa d’una autoritat, amb acords contractuals i es garanteix l’aplicació correcta i la traçabilitat de les decisions.

- Altres aplicacions també han estat considerades, com per exemple la gestió d’un congrés o d’un hotel, entre d’altres.

V. Conclusions

La regulació del futur tindrà en el moment de l’aplicació i la presa de decisió el seu moment central. Els marcs generals de regles i principis hauran d’estar inclosos en les eines de suport a les preses de decisió o, cas contrari, seran simplement obviats. Hem suggerit la possibilitat d’usar dues tècniques incipients per reforçar la co-regulació i dotar a la regulació d’una nova vitalitat i eficàcia: les plataformes de governança i la intel·ligència artificial social.

La previsió a curt termini no és gaire optimista: “Better Regulation” amb un pes residual de la co-regulació i plataformes i eines de suport a la decisió basades en reduccions de risc sense consideració a l’interès general. Potser la perspectiva de la RRI que s’imposa actualment en la governança de les tecnologies emergents pot ser un embrió de la discussió d’interès general que es reclama. Si no és així i les decisions automàtiques es basen només en anàlisi de dades, serà un context molt desfavorable al compliment de regles o principis. Aquest és l’escenari més probable a curt termini i dificultarà l’eficàcia de l’aplicació de la llei.

En el mig i llarg termini, en canvi, és tècnicament possible avançar cap a plataformes de co-regulació i institucions electròniques amb finalitat de suport a les decisions. Aquesta hipotètica evolució seria molt favorable per al Dret, doncs obriria la possibilitat de reconstruir la legitimitat de les decisions incorporant l’interès general com a context de la presa de decisions o com a revisions de les decisions automàtiques adoptades.

Però podria ser que no es fes el canvi requerit per la nova co-regulació. Podria ser que el Dret es tanqués en el marc de les regles i els principis i cridés sense més a ser completat per normes tècniques, que haurien només d’aplicar-lo. Si aquest escenari es confirmés, seria la fi de la capacitat de regulació del Dret, no només com a regulador directe, sinó com a regulador indirecte de contextos de presa de decisió. El nou regulador estaria basant-se llavors en processos de reducció de riscos o en eines automàtiques basades en anàlisi de dades. I cap dels dos tindria en compte ni les regles ni els principis jurídics. El perdedor seria l’interès general i les decisions no estarien legitimades democràticament doncs es trencaria la cadena de validesa per la falta de compliment efectiu de les regles jurídiques. El Dret hauria mort com a eina reguladora i seria només una aparença de governança, sense efectivitat en els criteris reals de la concreta presa de decisions. Voldria pensar que existint les eines per evitar-ho, el regulador prendrà consciència que es millor una co-regulació efectiva que una ficció de regulador únic.

Bibliografia

Abbot, Carolyn (2012), “Bridging the Gap. Non-state Actors and the Challenges of Regulating New Technology”, Journal of Law and Society, Vol. 39, Number 3.

Botti, V., Garrido,V., Giret, A. and Noriega, P. (2012), The Role of MAS as a Decision Support Tool in a Water-Rights Market, F. Dechesne et al. (Eds.): AAMAS 2011 Workshops, LNAI 7068: 35–49.

Caballero-Díaz, E., Simonet, B.m., and Valcárcel, M.(2013), The social responsibility of Nanoscience and Nanotechnology: an integral approach, J Nanopart Res, 15:1534.

Cavoukian, Ann (2009, revisat 2011), “The 7  Foundational Principles of  Privacy by Design”, [https://www.ipc.on.ca/images/resources/7foundationalprinciples.pdf https://www.ipc.on.ca/images/resources/7foundationalprinciples.pdf].

Commission Staff Working Document, Better Regulation Guidelines, 7 de juliol de 2017, SWD (2017) 350. Una “caixa d’eines” “Better regulation Toolbox” complementa les recomanacions.

CORDIS (2015) NANODEFINE periodic report summary 1. European Commission.  [http://cordis.europa.eu/result/rcn/163274_en.htm http://cordis.europa.eu/result/rcn/163274_en.htm].

CORDIS (2015) PROSAFE - promoting the implementation of safe by design. European Commission. [http://cordis.europa.eu/project/rcn/194431_en.html http://cordis.europa.eu/project/rcn/194431_en.html].

D’Inverno, M., Luck, M., Noriega, P., Rodríguez-Aguilar, J.A. and Sierra, C. (2012) ‘Communicating Open Systems’, Artiﬁcial Intelligence, 186: 38–94.

Guidelines on Regulating Robots (2014), Deliverable D 6.2 of the EU Robolaw 7th Framework Program Project (2012-2014),  [http://www.robolaw.eu/RoboLaw_files/documents/robolaw_d6.2_guidelinesregulatingrobotics_20140922.pdf http://www.robolaw.eu/RoboLaw_files/documents/robolaw_d6.2_guidelinesregulatingrobotics_20140922.pdf]

Hildebrandt, Mireille, Smart Technologies and the End(s) of Law. Novel Entanglements of Law and Technology (2015), Edward Elgar.

Landeweerd, L., Townend, D., Mesman, J., and Van Hoyweghen, I. (2015),  Reflections on different governance styles in regulating science: a contribution to ‘Responsible Research and Innovation’, Life Sciences, Society and Policy, 11:8.

Lingner, S. and Weckert, J. (2016), Nanoscale-Tecnologies as Subjects of Responsible Research and Innovation, Nanoethics, 10:173-176.

Linkov, I., Kurth, M.H., Hristozov, D. and Keisle, J.M.(2015), Nanotechnology: promoting innovation through analysis and governance, Environ Syst Decis, 35:22–23.

Malsch, I., Subramanian, V., Semenzin E., Hristozov, D. and Marcomini, A.(2015), Supporting decision-making for sustainable nanotechnology, Environ Syst Decis, 35:54–75.

NANOREG - A common European approach to the regulatory testing of nanomaterials. (2013) European Commission. [http://cordis.europa.eu/project/rcn/107159_en.html http://cordis.europa.eu/project/rcn/107159_en.html], [http://www.nanoreg.eu www.nanoreg.eu].

NANoREG harmonised terminology for environmental health and safety assessment of nanomaterials, [http://publications.jrc.ec.europa.eu/repository/bitstream/JRC100906/jrc%20technical%20report-nanoreg%20terminology%20ehs%20assessement%20nms.pdf http://publications.jrc.ec.europa.eu/repository/bitstream/JRC100906/jrc%20technical%20report-nanoreg%20terminology%20ehs%20assessement%20nms.pdf]

NanoSafety Cluster, Lynch, I. (ed.) Compendium of Projects in the European Nanosafety Cluster. 2017 Edició, 26 de juny de 2017.

Noriega, P. and de Jonge, D.(2016), Electronic Institutions: the EI/EIDE Framework, in Aldewereld, H., Boissier, O., Dignum, V., Noriega, P. and Padget, J. (eds.), Social Coordination Frameworks for Social Technical Systems, Springer:  47-76.

WP29, Guidelines on Automated individual decision-making and Profiling for the purposes of Regulation 2016/679, Adoptat el 3 d’octubre de 2017 (WP251).