[at best]

Savant (Wikipiedia)

Share now →

a modest proposal in two (plus one) provisions:

1. limit the number of friends a non-paying user can have: let’s say 100. do you want more friends ? you have to pay something: paying not only introduces friction but implies verifiability of identity of influences in case of suspicion of a crime. multiple (quasi) identical posts by different accounts (e.g. bots) would be easily spotted.
2. limit the level of posts re-sharing. let’s say friends of friends. This would limit the reach of a non paying user to maximum 10.000 persons.
3. (eventually) introduce latency in the visibility of re-shared posts. Let’s say 8 hours. This would allow up to 16 hours to react to fake news posting (content moderation)

the above proposal would not negatively impact social network revenues (nor costs) and would not imply any editorial responsibility for the social network.

just came to my mind.

I’d like to read some comments!

Share now →

What’s the difference between a Robot vacuum cleaner and a traditional vacuum cleaner ?

When you operate a traditional vacuum cleaner in your house, you are the user.

When your Robot vacuum cleaner operates in your house, you are the beneficiary; you are no longer the “user” who “uses” (or operates) the device. You benefit from its activity.

It is no longer a product you use to clean your house; cleaning the house becomes a service you benefit from, provided by a “living product”.

You own the tool, but you are no longer its “user”. You are just the “beneficiary”.

Now think of self driving cars.

You will own the car, but you’re not going to be its “user” driving it, just the passenger, the beneficiary of the service.

We know that with traditional cars, persons who use the tool (car users, aka drivers) happen to use them poorly and cause accidents with casualties. There is a general consensus that, by avoiding having humans using the tool (driving), the number of casualties will dramatically decrease.

Self driving cars are based on statistical AI systems. We know by design that, although they have no defects, they are going to have accidents and eventually determine some casualties.

But those casualties will not be attributable to a poor usage of the tool, as there are no users involved.

If a “perfect” tool is being used by a human who makes a mistake, causing the service outcome to fail, there will be no liability for the manufacturer. For non-AI systems, product liability is associated to a malfunction of a device, when the user uses it correctly.

But, with AI systems, there are no users, just beneficiaries of a service.

We know that, in some occasions, the service provided by a perfect tool, by design, is going to fail (given the statistical nature of AI).

Civil liability can be easily covered by insurances.

But liability is not only civil but also criminal.

Based on existing legal frameworks in various states, in case of mens rea offenses, negligence based offenses, and strict liability offenses, criminal laws do not limit the liability of humans (CEOs, COOs, programmers, users, etc.) who may have been involved in a crime perpetrated by an AI System, given its known non deterministic behaviour.

When a casualty arises from an action of an AI system, many humans are involved, and the arising criminal liability could potentially deter the development of an otherwise benefical technology.

Consider for example a self driving car that reduces 95% of driving casualties; this should be considered as a big human success, but the remaining 5% of casualties would involve criminal responsibility for a number of humans related to the product.

It is a situation somehow similar to drug development where the overall effects of a drug are extremely beneficial to society although it is known beforehand that some adverse events might happen.

Persons involved in the drug development face no criminal responsibility if all prescribed procedures are followed in a correct manner, as monitored by appropriate regulatory bodies.

A similar approach to criminal liability could be developed for AI, in order to not hinder applications that can significantly benefit society although it is known that they might have unwanted consequence in a (comparatively) limited number of cases, lesser than the pre-existing situation.

This is the basis of the bill proposal I introduced when I was in the Italian parliament in the last legislature.

Share now →

the AI Now 2018 Report contends with this central problem and addresses the following key issues:

1. The growing accountability gap in AI, which favors those who create and deploy these technologies at the expense of those most affected
2. The use of AI to maximize and amplify surveillance, especially in conjunction with facial and affect recognition, increasing the potential for centralized control and oppression
3. Increasing government use of automated decision systems that directly impact individuals and communities without established accountability structures
4. Unregulated and unmonitored forms of AI experimentation on human populations
5. The limits of technological solutions to problems of fairness, bias, and discrimination

Within each topic, we identify emerging challenges and new research, and provide recommendations regarding AI development, deployment, and regulation. We offer practical pathways informed by research so that policymakers, the public, and technologists can better understand and mitigate risks.

RECOMMENDATIONS

1. Governments need to regulate AI by expanding the powers of sector-specific agencies to oversee, audit, and monitor these technologies by domain. The implementation of AI systems is expanding rapidly, without adequate governance, oversight, or accountability regimes. Domains like health, education, criminal justice, and welfare all have their own histories, regulatory frameworks, and hazards. However, a national AI safety body or general AI standards and certification model will struggle to meet the sectoral expertise requirements needed for nuanced regulation. We need a sector-specific approach that does not prioritize the technology, but focuses on its application within a given domain. Useful examples of sector-specific approaches include the United States Federal Aviation Administration and the National Highway Traffic Safety Administration.
2. Facial recognition and affect recognition need stringent regulation to protect the public interest. Such regulation should include national laws that require strong oversight, clear limitations, and public transparency. Communities should have the right to reject the application of these technologies in both public and private contexts. Mere public notice of their use is not sufficient, and there should be a high threshold for any consent, given the dangers of oppressive and continual mass surveillance. Affect recognition deserves particular attention. Affect recognition is a subclass of facial recognition that claims to detect things such as personality, inner feelings, mental health, and “worker engagement” based on images or video of faces. These claims are not backed by robust scientific evidence, and are being applied in unethical and irresponsible ways that often recall the pseudosciences of phrenology and physiognomy. Linking affect recognition to hiring, access to insurance, education, and policing creates deeply concerning risks, at both an individual and societal level.
3. The AI industry urgently needs new approaches to governance. As this report demonstrates, internal governance structures at most technology companies are failing to ensure accountability for AI systems. Government regulation is an important component, but leading companies in the AI industry also need internal accountability structures that go beyond ethics guidelines. This should include rank-and-file employee representation on the board of directors, external ethics advisory boards, and the implementation of independent monitoring and transparency efforts. Third party experts should be able to audit and publish about key systems, and companies need to ensure that their AI infrastructures can be understood from “nose to tail,” including their ultimate application and use.
4. AI companies should waive trade secrecy and other legal claims that stand in the way of accountability in the public sector. Vendors and developers who create AI and automated decision systems for use in government should agree to waive any trade secrecy or other legal claim that inhibits full auditing and understanding of their software. Corporate secrecy laws are a barrier to due process: they contribute to the “black box effect” rendering systems opaque and unaccountable, making it hard to assess bias, contest decisions, or remedy errors. Anyone procuring these technologies for use in the public sector should demand that vendors waive these claims before entering into any agreements.
5. Technology companies should provide protections for conscientious objectors, employee organizing, and ethical whistleblowers. Organizing and resistance by technology workers has emerged as a force for accountability and ethical decision making. Technology companies need to protect workers’ ability to organize, whistleblow, and make ethical choices about what projects they work on. This should include clear policies accommodating and protecting conscientious objectors, ensuring workers the right to know what they are working on, and the ability to abstain from such work without retaliation or retribution. Workers raising ethical concerns must also be protected, as should whistleblowing in the public interest.
6. Consumer protection agencies should apply “truth-in-advertising” laws to AI products and services. The hype around AI is only growing, leading to widening gaps between marketing promises and actual product performance. With these gaps come increasing risks to both individuals and commercial customers, often with grave consequences. Much like other products and services that have the potential to seriously impact or exploit populations, AI vendors should be held to high standards for what they can promise, especially when the scientific evidence to back these promises is inadequate and the longer-term consequences are unknown.
7. Technology companies must go beyond the “pipeline model” and commit to addressing the practices of exclusion and discrimination in their workplaces. Technology companies and the AI field as a whole have focused on the “pipeline model,” looking to train and hire more diverse employees. While this is important, it overlooks what happens once people are hired into workplaces that exclude, harass, or systemically undervalue people on the basis of gender, race, sexuality, or disability. Companies need to examine the deeper issues in their workplaces, and the relationship between exclusionary cultures and the products they build, which can produce tools that perpetuate bias and discrimination. This change in focus needs to be accompanied by practical action, including a commitment to end pay and opportunity inequity, along with transparency measures about hiring and retention.
8. Fairness, accountability, and transparency in AI require a detailed account of the “full stack supply chain.” For meaningful accountability, we need to better understand and track the component parts of an AI system and the full supply chain on which it relies: that means accounting for the origins and use of training data, test data, models, application program interfaces (APIs), and other infrastructural components over a product life cycle. We call this accounting for the “full stack supply chain” of AI systems, and it is a necessary condition for a more responsible form of auditing. The full stack supply chain also includes understanding the true environmental and labor costs of AI systems. This incorporates energy use, the use of labor in the developing world for content moderation and training data creation, and the reliance on clickworkers to develop and maintain AI systems.
9. More funding and support are needed for litigation, labor organizing, and community participation on AI accountability issues. The people most at risk of harm from AI systems are often those least able to contest the outcomes. We need increased support for robust mechanisms of legal redress and civic participation. This includes supporting public advocates who represent those cut off from social services due to algorithmic decision making, civil society organizations and labor organizers that support groups that are at risk of job loss and exploitation, and community-based infrastructures that enable public participation.
10. University AI programs should expand beyond computer science and engineering disciplines. AI began as an interdisciplinary field, but over the decades has narrowed to become a technical discipline. With the increasing application of AI systems to social domains, it needs to expand its disciplinary orientation. That means centering forms of expertise from the social and humanistic disciplines. AI efforts that genuinely wish to address social implications cannot stay solely within computer science and engineering departments, where faculty and students are not trained to research the social world. Expanding the disciplinary orientation of AI research will ensure deeper attention to social contexts, and more focus on potential hazards when these systems are applied to human populations.

Share now →

Beninteso. E’ notorio che sono un appassionato di tecnologia ed un innamorato del futuro.

Anche per questo mi disturba quando sento troppa enfasi, che poi inevitabilmente creerà disillusione in chi ci aveva creduto.

Come ad esempio il marketing hype del 5G che servirà a raccogliere meglio le immondizie, riempire le buche per strada e trattare più efficientemente le infezioni del tratto urinario… (la realtà aumentata -cosa conretissima- non deve essere troppo sexy, perchè se ne parla ben poco…)

Per non parlare di tutte le previsioni quasi miracolistiche di mirabolanti applicazioni della blockchain che risolveranno dalle crisi immobiliari alla distribuzione del cibo in africa.. o dell’intelligenza artificiale che risolverà i problemi dell’acne giovanile e che migliorerà le frenate delle biclette (tutti esempi reali)

Non credo che facciano bene all’industria.

Il machine learning e la crittografia (la blockchain è una prova vivente della possibilità di fare overlay network crittografici) sono famiglie di tecnologie assai importante in grado di cambiare molto il modo con cui facciamo molte cose, avendo profondi impatti sulla società, senza necessità di esagerare.

Quando si diceva che dopodomani avremmo avuto le città invase da auto che si guidano da sole, mi ero permesso di segnalare che nuove tecnologie creano nuovi attacchi e puntualmente qualcuno si è messo a studiare come attaccando dei pezzi di nsatro isolante sui cartelli degli stop, le auto non li riconoscevano più. Il numero e la varietà di attacchi possibili a computer di 2 tonnellate che girano in mezzo alla gente, è limitato solo dalla fantasia., per non parlare degli aspetti giuridici- penali, più che civili. (non che non si possa pensare a scenari limitati dove l’applicazione sia più semplice).

Adesso tocca leggere di droni fatti da una società di Google (pardon, di Alphabet) che portano pacchetti di 1,5Kg. e che il servizio è in fase di collaudo in Finlandia. E l’azienda chiede sul suo sito “per cosa lo useresti ?” suggerendo come opzioni farmaci, cibo e pannolini…

Una cosa del genere giusto in Finlandia o in Svizzera.. perchè (senza pensare a malfunzionamenti e danni causati e responsabilità, anche qui, civili e penali) se fatto nel 90% del resto mondo, già mi vedo chi, armato di fionda o flobert abbatte il drone per fregarsi il carico…

Potremmo non esagerare con la “narrazione” ?

Le cose concrete bastano e avanzano.

Share now →

Google incorporerà la divisione sanitaria della sua controllata DeepMind, cosa che è fonte di preoccupazione in quanto Google sarà in grado di accedere a dati sanitari personali e identificabili.

Google ha acquisito DeepMind, un’azienda di intelligenza artificiale con sede a Londra, nel 2014, per 500 milioni di dollari. DeepMind è meglio conosciuto per il suo algoritmo AlphaGo, che ha battuto il campione del mondo di gioco di strategia Go nel 2016, ma ha ampliato le sue capacità  in nuovi settori, compresa la sanità.

DeepMind punta a trasformare la sua app mobile Streams in un assistente AI per infermieri e medici, utilizzando i dati dei pazienti in tempo reale.

Viene utilizzato in diversi ospedali britannici.

E’ stato annunciato che adesso Google la incorporerà (fino ad oggi opera come azienda separata).

DeepMind aveva ripetutamente promesso che non avrebbe mai condiviso i dati con la sua società capogruppo Google. Sembra che ora venga meno a quell’impegno.

E’ già stato accertato che DeepMind ha violato le leggi europee e britanniche sulla protezione dei dati sulla gestione dei pazienti dell’NHS con l’applicazione Streams.

A luglio un comitato etico indipendente aveva stabilito che Deepmind avrebbe dovuto fare di più per rinforzare la propria indipendenza dalla società madre.

Adesso il garante della Privacy UK (ICO) sta osservando la questione. L’anno scorso aveva stabilito che l’NHS trust (che gestisce ospedali in UK) aveva violato la legge adottando Streams.

Da quanto leggo, sono francamente scandalizzato perchè risulta che Google forza la legge scientemente andando contro dichiarazioni precedenti.

La bottom line è che proprio non ci si può fidare di quello che dicono.

Sono contento, anche se costa fatica e conoscenze non alla portata della persona media,  di avere progressivamente abbandonato quasi totalmente Google (“quasi”, perchè ho ancora qualche interazione residua con docs e occasionale con play store su android).

Share now →

• Avere performance più che umane in un task non significa capire cosa si stia facendo.
  
• L’elefante nella stanza: inserendo l’immagine di un elefante in una immagine di una stanza, l’oggetto non viene riconosciuto e causa l’errato o mancato riconoscimento di altri oggetti.
• Audio adversarial examples: 100% di successi nell’attaccare un sistema di riconoscimento del parlato che parte da un brano audiom ne deriva uno simile al 99,9% ma genera un testo diverso che il ricercatore decide.
• Vulnerabilità alle contaminazioni delle facce nel riconoscimento di volti.
• Physical-World Attacks: 100% di errato riconoscimento di cartelli stradali in laboratorio e 85% da video di un veicolo in movimento, attaccando sui cartelli di adesivi bianchi e neri 
• Adversarial Examples for Evaluating Reading Comprehension Systems: Esempi avversi inseriti nei testi che fanno crollare l’accuratezza del riconoscimento dei contenuti al 7%
• Errati riconoscimenti di immagini: Applicando perturbazioni impercettibili alle immagini. Le immagini a sinistra sono riconosciute correttmente, inserendo le perturbazioni centrali, tutte le immagini a destra sono riconosciute come struzzi. 

In sintesi: tutti i sistemi funzionano benissimo, a meno che qualcuno non abbia forti incentivi a farli non funzionare, fregandoli…

Share now →

Nella produzione e distribuzione di contenuti

• L’immateriale ha costo variabile di distribuzione nullo
• Gli intermediari immateriali hanno costo variabile di produzione nullo
• Gli intermediari globali spalmano i costi infrastrutturali su base globale.
• I produttori professionali di informazione hanno costi variabili non nulli e costi infrastrutturali spalmabili solo su una base di utenza locale.

In precedenza i costi di pubblicità dovevano coprire i costi variabili industriali (oltre agli ammortamenti) dei produttori professionali di informazione.

Costi variabili nulli abilitano le aste per la pubblicità: “quanto vuoi darmi ?”

La formazione del prezzo passa dalla offerta alla domanda e tende ad una quota del margine degli inserzionisti.

Tracciabilità degli utenti e aste in tempo reale per inserzioni spostano ricavi dai produttori professionali di informazione ad intermediari tecnologici.

• Per un inserzionista accorto  il massimo è agganciare un utente su un mezzo ad alta qualità (ed alto costo) e seguirlo con remarketing su mezzi a bassissimo costo.

I contenuti disponibili online proliferano molti ordini di grandezza in più di quanto avvenisse quando erano fissati su supporti materiali:

• attualmente l’informazione è un bene non rivale e solo limitatamente escludibile.
• il costo di distribuzione è nullo e producono anche attori che non sono interessati a remunerazione diretta
• in precedenza la circulation era una delle fonti di ricavo importanti

I ricavi dei produttori professionali di informazione sono sotto pressione

• I ricavi da digital circulation sono limitati (basti guardare gli importi delle offerte, le audience da audiweb e considerare le conversion tipiche)
• I ricavi da adv sono soggetti alle pressioni  di cui sopra

I ricavi dell’industria dei produttori professionali di informazione sono una frazione di quelli precedenti che sostenevano le strutture di costo.

Intermediari e produttori professionali di informazione cercano di massimizzare i ricavi pubblicitari aumentano utenti e loro permanenza.

• A tal fine aumenta sfruttamento di confirmation bias, filter bubbles e contenuti esacerbanti.

Ne conseguono proliferazione fake news ed inasprimento della conversazione pubblica.

Non è questione di facile soluzione, ma bisogna trovare qualche idea.

Share now →

Vi ricordate quando i giornali spararono a palle incatenate contro la mia proposta di legge sulla device neutrality ? (il diritto per l’utente di installare e disinstallare il software che vuole dal proprio dispositivo), che mi costrinse a fare gli straordinari contattandoli tutti per spiegare che non era vero…

Scrissero che volevo mettere al bando gli iphone in Italia (cosa ovviamente falsa, tantopiù che il diritto di rimozione del software è garantito – in teoria – dalle stesse licenze d’uso dei prodotti Apple).

Beh, il concetto è diventato legge nel Quebec, a Taiwan (ancora più restrittivo), c’era una proposta di legge in Brasile (non so che fine farà con il cambio di governo), il regolatore francese ha sollecitato l’Europa a fare un provevdimento simile, e potrei continuare..

Adesso arriva questa presa di posizione del Copyright Office Usa che consente di violare le protezioni tecniche di…

Share now →

Non è la stessa cosa, beninteso.

Penso che per tutelare un valore non si debba compromettere l’altro. (e nemmeno che per tutelare l’altro si comprometta l’uno).

Il fatto è che sono convinto che sia possibile salvare capra, cavolo e pastore.

Solo un mese fa scrivevo su Agendadigitale.eu:

Il problema qui, secondo me, è che si inverte l’onere della prova su un illecito demandando un primo grado di giudizio ad un privato che usa un sistema che, per costruzione, commetterà errori, e che per dinamiche naturali già verificatesi in casi simili, verrà successivamente applicato ad altri ambiti della vita online delle persone….

In un sistema che tuteli la libertà di espressione non è tanto sui falsi negativi che dobbiamo concentrarci, ma sul procedimento che riguarda i falsi positivi ed il loro immediato ripristino online.

La proposta di compromesso su questo punto (“redress”) appare vaga, ipotizzando che poi ci sia qualcuno, per ogni paese, in grado di dirimere tutte le controversie in tempi brevissimi e con l’autorità per imporre alla piattaforma la ripubblicazione del contenuto bloccato.

Un giudizio privato algoritmico (che indiscutibilmente commette errori) afferma l’illecito e il cittadino deve invece dimostrare la liceità…..

Una inversione dell’onere della prova, con una pre-giudizio informatizzato, privato, che deve far riflettere anche in chiave prospettica quando, per naturale evoluzione, l’adozione di sistemi simili sarà richiesta per il blocco preventivo di altri contenuti, come ad esempio quelli a sfondo terroristico o di hate speech, temi adiacenti ai quali le persone esprimono anche opinioni di natura politica. (update: e poi diffusione di manie e virus mentali vari)

Sbaglia chi ritiene che una simile estensione non possa accadere. Accadrà certamente. Chiunque abbia esperienza legislativa sui meccanismi di takedown e di “inibizione all’accesso” sa bene che gli articolati approvati poi vengono riutilizzati e copia-incollati in progetti di legge successivi.

Adesso leggo questo report dall’università di Stanford

NEW EU PROPOSAL ON THE PREVENTION OF TERRORIST CONTENT ONLINE: AN IMPORTANT MUTATION OF THE E-COMMERCE INTERMEDIARIES’ REGIME

Share now →

Tanto per cambiare, siamo quartultimi nella classifica Europea del livello di digitalizzazione (DESI).

alcuni appunti sulle cinque macro aree di indicatori

1. Connettività
   terzultima sulla connettivita’, piu’ in dettaglio
   19esimi su rete fissa
   17esimi per mobile
   22esimi fast broadband
   penultimi per ultrabroadband, davanti alla grecia (beh, stiamo scavando adesso e a differenza degli altrri non avevamo una cable tv..)
   15esimi come prezzo broadband (ma la germania e’ 4a! con quello che costa la’ ? il prezzo piu’ alto e’ meglio ?)
   dice che solo il 41,9% degli utenti mobili usa internet. Non è che c’e’ un equivoco nella domanda ? Che quando dicono “internet” le persone pensano al web ? anche whatsapp e’ Internet…
2. Capitale umano
   quartultimi su human capital
   quartultimi su basic skills
   quintultimi su advanced skills
   qui c’e’ poco da dire, è il fattore che tira giù maggiormente tutti gli altri
3. uso servizi internet
   siamo penultimi (vedi sopra)
   22esimi su fruizione contenuti (ultimi nelle news (??))
   quartultimi nell’uso per comunicazioni (meno della metà di bulgaria, ungheria cipro e malta. non è che qui le persone pensano che whatsapp non e’ internet ?)…
   quintultimi per transazioni
4. ICT nelle aziende
   20esimi per uso ICT nelle aziende
   noni nella digitalizzazione del business
   quintultimi nell’ecommerce (che, se non ci sono gli utenti (vedi punto 3) non pare una decisione troppo avventata per chi ha un mercato solo domestico)
5. servizi pubblici
   19esimi nei servizi pubblici
   21esimi nel egov
   ultimi negli utenti di egov
   8vi nella e-health
   in questo gruppo di indicatori pare tutto molto orientato alla compilazione di moduli online ed alla disponibilità di moduli precompilati. Ma siamo sicuri che quello sia il metodo di rapporto con la PA che si ha in Italia ? sarebbe interessante sapere come sarbbe la graduatoria considerando, che so, il numero di servizi di recapito certificato per cittadini ed imprese…

Share now →

Siete insoddisfatti del vostro operatore mobile ?

Le prestazioni non vi soddisfano ?

Siete attratti dalla offerta TIM “Passa a Tim” ?

La proposta commerciale e’ “30Giga a 7 euro/mese”

In effetti 30G B su rete TIM a 7 euro al mese è interessante…

Purtroppo non è disponibile alcuna scheda descrittiva nè in negozio, nè mandata dal call center nè sul web.

Allora può essere utile sapere che …

Ci sono 12 euro di attivazione e 10 euro per la SIM (una bella offerta per il fine anno fiscale..)

Poi sono 7 euro al mese per 3GB e dopo una settimana altri 27GB

Di default vengono attivati, inoltre

• Il piano tariffario “base e chat” dal costo di 1,99 eur/mese
• L’opzione reperibilità (“lo sai” e “chiama ora”) a 1,50 eur/mese
• Ogni sms inviato sono 16centesimi
• L’opzione “Giga di scorta” ad 1,99 ogni 200M in eccesso dell’offerta (improbabile)
• La Segreteria telefonica al costo di 1,54Euro per ogni chiamata

… se non ho capito male.

Insomma, offerta interessante, disabilitando ciò che viene attivato di default, che purtroppo non è descritto da nessuna parte. (o almeno, non trovato in 3 chiamate al call center, due visite in negozi diversi e innumerevoli ricerche sul sito da parte mia e dei commessi dei negozi)

Share now →

pensate alle medicine.

sappiamo che in certi casi possono causare vittime.
in alcuni casi e se usate in modo inappropriato.
ma normalmente funzionano.
possono avere effetti collaterali e persino causare morti.

abbiamo un’infrastruttura normativa che ha permesso lo sviluppo dell’industria farmaceutica.
abbiamo richiesto alle aziende farmaceutiche di
– dichiarare a cosa servono le medicine
– dichiarare come dovrebbero essere usate
– dichiarare gli eventuali effetti collaterali negativi
– eseguire test con animali e, in caso di successo
– richiede l’autorizzazione per i test con umani (con un organismo di autorizzazione e controllo)
– eseguire vari test sull’uomo
– monitorare l’utilizzo successivo
– in alcuni casi (più rischiosi) tracciare ogni fase di utilizzo
– notificare possibili problemi
– rilasciare l’IPR dopo un certo numero di anni
– ritirarli immediatamente dal mercato in caso di problemi

e abbiamo regolamenti per tutto questo

consideriamo ora una patologia mortale

se non fai niente, hai 10.000 vittime
se fornisci un farmaco, hai 100 vittime.

è un guadagno meraviglioso per la società.

ora veniamo all’AI.

pensate alla guida in auto:

sei il CEO di una casa automobilistica.
date i vostri prodotti agli utenti umani sapendo che 10.000 di loro moriranno per una serie di motivi.
i prodotti sono ok, il problema è la guida umana.
non è una tua responsabilità, è dell’utente

poi introduci una tecnologia di guida e ci sono solo 100 vittime.
è un guadagno meraviglioso per la società.

ma le famiglie delle vittime ti faranno causa.

sei responsabile per il prodotto.
potresti essere stato preparato ed evitare che la società finisca in bancarotta per danni e responsabilità
ma potresti affrontare la prigione in varie giurisdizioni per avere immesso sul mercato un prodotto che ha causato un decesso, almeno in termini colposi.

nell’esempio farmaceutico, a livello di regolamentazione, consideriamo l’output complessivo per benefici e responsabilità; in altri prodotti si guarda la responsabilità per ogni singolo prodotto per responsabilità

IMHO per l’intelligenza artificiale dovremmo costruire un’infrastruttura normativa come quella che abbiamo per l’industria farmaceutica. (con tutte le fasi ed i vincoli di cui sopra, magari mutuando dalla regolamentazione dei farmaci).

la responsabilità delle società dovrebbe essere valutata non per l’incidente singolo ma per l’effetto complessivo che hanno, chiedendo loro di fare test appropriati e dichiarare ciò che ottimizzano e tenerli responsabili per ciò.

so che alcuni amici storceranno il naso, che un approccio che preveda una sorta di “spiegabilità algoritmica” sarebbe  preferibile in linea di principio ed è una linea che condivido. fino ad un certo punto. può determinare costi che di fatto impediscono l’uso di un sistema che produrrebbe benefici.

come noto, non sono un fedele singolaritariano, ma penso che andando avanti il costo della spiegabilità aumenterà comunque a livello esponenziale e potrebbe privarci di benefici.

penso anche che questa interpretazione sia inevitabile e che ci si arriverà, allora penso sarebbe meglio anticiparla e cercare di farne un vantaggio competitivo per il paese.  Questo è il senso della proposta di legge che presentai un anno fa.

Share now →