we know that

POW (proof of work) is a consensus algorithm that hardly scales and centralizes on few actors for economic incentives.

POS (proof of stake) is not “democratic”. The richest rules.

other mechanisms have been proposed [e.g. algorand, avalanche] based on random selection of validating nodes.

but as all these entities are immaterial, validators can be created and the more the resources I can invest, the larger my probability of being among the randomly defined validating pool.

so, it becomes a kind-of probabilistic proof of stake.

POW and POS try to solve the well known sybil attack using scarce resources:

• POW -> energy,
• POS -> capital

and by doing so, they are not democratic nor human-centered.

that is, unless we can tether one node to one physical person (a concept known as strong identity, based on some kind of procedure akin to KYC), thereby limiting the possibility of corruption of the pool of possible validators.

as today, in Italy we have in excess of 4.2M strong digital identities, you can use on your smartphone (that is, without smartcards), guaranteed by the state, with authentication performed by a federation of identity providers (private and public entities).

the system is called SPID (Sistema Pubblico di Identità Digitale) and provides two authentication levels: username/password and OTP.

AFAIK, is the largest federated network of legally recognized digital identities. It is a part of the eIDAS european digital trust services framework and we have already in place an interoperability systems so that one can use italian credentials to be legally recognized when accessing participated online services (public or private) in other states like Germany or Estonia.

perhaps SPID could be the basis to tether identities (eventually through a network of fiduciary intermediaries) to test random based validation algorithms.

in the end, in the immaterial dimension, identity is the root of all services and attention is the scarce resource.

Disclosure: I am an advisor to Fulgur lab.

Share now →

.

There are three broad classes of income :

• Earned Income: is generated by working, such as salary or money made from time-based employment which can include consulting, working a job, running a small business, gambling, etc. Income is linear with the activity: once you stop working, you stop earning.
• Portfolio Income: is generated by selling an investment at a higher price than the original cost (capital gain). As life is, these investments  include a high level of risk as one can generate gains (generally) proportional to the capital invested (that can be reinvested increasing returns) or losses Having a crystal ball could make it grow exponentially. Income is not linear with the activity.
• Passive Income: generated from assets purchased or created. Examples can be income from rental of real estate or other form of invested capital, business income (not based on amount of time and effort spent), income from intellectual property sale. May be (and generally is) recurring, generally linear with the assets employed.

All of these incomes historically could be statically attributed to a specific limited number of contracting states (a good or service being produced in one state and sold in another). The OECD has defined a convention on income and taxation which further details classes of income and the way they should be treated when operating across borders. These are:

• Income from immovable property
• Business profits
• International shipping and air transport
• Associated enterprises
• Dividends
• Interest
• Royalties
• Capital gains
• Income from employment
• Directors’ fees
• Entertainers and sportspersons
• Pensions
• Government service
• Students
• Capital

all of these classes nail down to the three broad classes described at the beginning.

if we think to the income generated by SAAS (software as a service),

• it is non linear with the activity, time or effort;
• it is not proportional to the capital invested,
• it is recurring.

furthermore,

• it may involve several, dinamically changing, contracting states
• it can grow exponentially (not employing variable capital and not incurring in losses), and
• it has (almost) zero marginal costs, returns which can be disproportionally higher than investments so these may be considered sunk investments

these last considerations make it a very different type of income compared with  types of income we have known so far. it’s income generated by a machine (like it would be for capital investments with variable costs and a production location), but (substantially) without the capital investment, without the variable cost, and without the production location.

it is not “automation” as this term is already used to describe situations where variable costs exist, where capital investments are important, where the income cannot grow exponentially, where contracting states are stable.

we could rather call it an Artificial agent income (it may, but doesn’t need to be “intelligent” like we intend for machine learning applications) and agree on specific taxation criteria. This is the basis of the bill proposal I made while I was in the italian parliament, a couple of years ago.

Now, let’s make a step forward:

as I argue in my latest books, the immaterial dimension has become the major user interface of the material dimension for socioeconomic relationship: “dimensions” and not “worlds” because they are not alternative to each other but rather they supplement each other; material/immaterial rather than real/virtual because they are both real and because the world “virtual” (which comes from medieval latin ‘virthualis’) has a root meaning of “potential, not real”.

we tend to think at digital technologies as enablers. and it certainly was so, when we bought hardware and software for specific applications. the move to SAAS ‘platform’ business models (multi-sided markets) has given birth to intermediaries that capture value monetizing the relationships between the intermediated. often leading to mono/oligo-polistic/psonistic powers exploiting network effects and lock-ins given the absence of pro-competitive regulation imposing portability, interconnection and interoperability.

they are among the few being able to capture a portion of the monetary value that is destroyed by digitalization, as the value-carrying portion of goods and services moves from material to immaterial and hence to zero variable costs. (which implies also that their prices are not determined by costs but by perceived value).

I believe this has a deflationary effect and induces a pressure on earned  income (and, less significantly and in a longer term, on some forms of passive income), at least expressed in monetary terms, increasing polarization. It does not necessarily imply that persons’ well-being reduces, as many goods and services benefit form a reduction of prices due to the same reasons: prices of goods and services being increasingly impacted by migration of value-carrying parts to zero variable costs.

with the waves of industrial revolutions, generated surpluses first moved peasants to industry and the same happened for the secondary sector. The second industrial revolution gave birth to the tertiary sector and the third industrial revolution to the quaternary sector (or advanced tertiary).

I am inclined to think that the surplus generated by artificial agents is both, having the effect of a reduction of the wealth expressed in monetary terms and a significant portion of it being captured by digital intermediaries in the process of progressive de-materialization of significant parts of the economy, contributing to the increase in polarization.

Someday, maybe we will be able to store energy generated by renewable sources, further increasing the portion of the value of the economy that is linked to the dynamics of zero variable costs. There may be interesting times ahead.

Share now →

In estrema sintesi..

non riesco a fare a meno di Thunderbird, con le estensioni che ha. Ho una user experience molto personalizzzata.

ma il calendar, complice la quantità delle entries, per me era praticamente inusabile.

ho disabilitato (da tempo) l’estensione lightning  (il calendar incluso in thunderbird) ed uso emClient per il calendario.

se non avessi tante personalizzazioni del client di mail, lo userei anche per la mail.

questa azienda Ceca ha fatto davvero un ottimo lavoro.

Share now →

no…

Share now →

Scrivevo qui:

Loro sperano che, pubblicando questa tecnologia, le persone a breve sapranno che è possibile clonare voci di persone e vogliono sollevare l’attenzione sul fatto che le registrazioni audio, in un imminente futuro, non potranno più essere considerati elementi probatori.

ormai  ci siamo.

Share now →

Mi aggiungo alla catena e ricopio il post (Massimo che riprende Gianluca). Chissà, magari lo farà anche qualcun altro.

—

Ho pensato che magari se segnalavo solo il link qualcuno, anche uno solo, non sarebbe andato su Macchianera a leggere questo pezzo che Virginia Di Vivo ha scritto su Facebook e che Gianluca Neri ha ricopiato. Così ve lo aggiungo anche qui. Ora non avete scuse.

Mi reco molto assonnata al congresso più inflazionato della mia carriera universitaria, conscia che probabilmente mi addormenterò nelle file alte dell’aula magna. Mi siedo, leggo la scaletta, la seconda voce è “sanità pubblica e immigrazione: il diritto fondamentale alla tutela della salute”. Inevitabilmente penso “e che do bali”. Accendo Pokémon Go, che sono sopra una palestra della squadra blu. Mi accingo a conquistarla per i rossi. Comincia a parlare il tale Dottor Pietro Bartolo, che io non so chi sia. Non me ne curo. Ero lì che tentavo di catturare un bulbasaur e sento la sua voce in sottofondo: non parla di epidemiologia, di eziologia, non si concentra sui dati statistici di chissà quale sindrome di *lallallà*. Parla di persone. Continua a dire “persone come noi”. Decido di ascoltare lui con un orecchio e bulbasaur con l’altro. Bartolo racconta che sta lì, a Lampedusa, ha curato 350mila persone, che c’è una cosa che odia, cioè fare il riconoscimento cadaverico. Che molti non hanno più le impronte digitali. E lui deve prelevare dita, coste, orecchie. Lo racconta:”Le donne? Sono tutte state violentate. TUTTE. Arrivano spesso incinte. Quelle che non sono incinte non lo sono non perché non sono state violentate, non lo sono perché i trafficanti hanno somministrato loro in dosi discutibili un cocktail antiprogestinico, così da essere violentate davanti a tutti, per umiliarle. Senza rischi, che le donne incinte sul mercato della prostituzione non fruttano”. Mi perplimo.

Ma non era un congresso ad argomento clinico? Dove sono le terapie? Perché la voce di un internista non mi sta annoiando con la metanalisi sull’utilizzo della sticazzitina tetrasolfata? Decido di mollare bulbasaur, un secondino, poi torno Bulba, devo capire cosa sta dicendo questo qua.

“Su questi barconi gli uomini si mettono tutti sul bordo, come una catena umana, per proteggere le donne, i bambini e gli anziani all’interno, dal freddo e dall’acqua. Sono famiglie. Famiglie come le nostre”.

Mostra una foto, vista e rivista, ma lui non è retorico, non è formale. È fuori da ogni schema politically correct, fuori da ogni comfort zone.

“Una notte mi hanno chiamato: erano sbarcati due gommoni, dovevo andare a prestare soccorso. Ho visitato tutti, non avevano le malattie che qualcuno dice essere portate qui da loro. Avevano le malattie che potrebbe avere chiunque. Che si curano con terapie banali. Innocue. Alcuni. Altri sono stati scuoiati vivi, per farli diventare bianchi. Questo ragazzo ad esempio”, mostra un’altra foto, tutt’altro che vista e rivista. Un giovane, che avrà avuto 15/16 anni, affettato dal ginocchio alla caviglia.

Mi dimentico dei Pokémon.

“Lui è sopravvissuto agli esperimenti immondi che gli hanno fatto. Suo fratello, invece, non ce l’ha fatta. Lui è morto per essere stato scuoiato vivo”.

Metto il cellulare in tasca.

”Qualcuno mi dice di andare a guardare nella stiva, che non sarà un bello spettacolo. Così scendo, mi sembrava di camminare su dei cuscini. Accendo la torcia del mio telefono e mi trovo questo..”

Mostra un’altra foto.

Sembrava una fossa comune. Corpi ammassati come barattoli di uomini senza vita.

“Questa foto non è finta. L’ho fatta io. Ma non ve la mostrano nei telegiornali. Sono morti li, di asfissia. Quando li abbiamo puliti ho trovato alcuni di loro con pezzi di legno conficcati nelle mani, con le dita rotte. Cercavano di uscire. Avevano detto loro che siccome erano giovani, forti e agili rispetto agli altri, avrebbero fatto il viaggio nella stiva e poi, con facilità, sarebbero usciti a prendere aria presto. E invece no. Quando l’aria ha cominciato a mancare, hanno provato ad uscire dalla botola sul ponte, ma sono stati spinti giù a calci, a colpi in testa. Sapeste quanti ne ho trovati con fratture del cranio, dei denti.

Sono uscito a vomitare e a piangere. Sapeste quanto ho pianto in 28 anni di servizio, voi non potete immaginare”.

Ora non c’è nessuno in aula magna che non trattenga il fiato, in silenzio.

“Ma ci sono anche cose belle, cose che ti fanno andare avanti. Una ragazza. Era in ipotermia profonda, in arresto cardiocircolatorio. Era morta. Non avevamo niente. Ho cominciato a massaggiarla. Per molto tempo. E all’improvviso l’ho ripresa. Aveva edema, di tutto. È stata ricoverata 40 giorni. Kebrat era il suo nome. È il suo nome. Vive in Svezia. È venuta a trovarmi dopo anni. Era incinta” ci mostra la foto del loro abbraccio.

“..Si perché la gente non capisce. C’è qualcuno che ha parlato di razza pura. Ma la razza pura è soggetta a più malattie. Noi contaminandoci diventiamo più forti, più resistenti. E l’economia? Queste persone, lavorando, hanno portato miliardi nelle casse dell’Europa. E io aggiungo che ci hanno arricchito con tante culture. A Lampedusa abbiamo tutti i cognomi del mondo e viviamo benissimo. Ci sono razze migliori di altre, dicono. Si, rispondo io. Loro sono migliori. Migliori di voi che asserite questo”.

Fa partire un video e descrive:”Questo è un parto su una barca. La donna era in condizioni pietose, sdraiata per terra. Ho chiesto ai ragazzi un filo da pesca, per tagliare il cordone. Ma loro giustamente mi hanno risposto “non siamo pescatori”. Mi hanno dato un coltello da cucina. Quella donna non ha detto bau. Mi sono tolto il laccio delle scarpe per chiudere il cordone ombelicale, vedete? Lei mi ringraziava, era nera, nera come il carbone. Suo figlio invece era bianchissimo. Si perché loro sono bianchi quando nascono, poi si inscuriscono dopo una decina di giorni. E che problema c’è, dico io, se nascono bianchi e poi diventano neri? Ha chiamato suo figlio Pietro. Quanti Pietri ci sono in giro!”.

Sorridiamo tutti.

“Quest’altra donna, invece, è arrivata in condizioni vergognose, era stata violentata, paralizzata dalla vita in giù… Era incinta. Le si erano rotte le acque 48 ore prima. Ma sulla barca non aveva avuto lo spazio per aprire le gambe. Usciva liquido amniotico, verde, grande sofferenza fetale. Con lei una bambina, anche lei violentata, aveva 4 anni. Aveva un rotolo di soldi nascosto nella vagina. E si prendeva cura della sua mamma. Tanto che quando cercavo di mettere le flebo alla mamma lei mi aggrediva. Chissà cosa aveva visto. Le ho dato dei biscotti. Lei non li ha mangiati. Li ha sbriciolati e ci imboccava la mamma. Alla fine le ho dato un giocattolo. Perché ci arrivano una montagna di giocattoli, perché la gente buona c’è. Ma quella bimba non l’ha voluto. Non era più una bambina ormai.”

Foto successiva.

“Questa foto invece ha fatto il giro del mondo. Lei è Favour. Hanno chiamato da tutto il mondo per adottarla. Lei è arrivata sola. Ha perso tutti: il suo fratellino, il suo papà. La sua mamma prima di morire per quella che io chiamo la malattia dei gommoni, che ti uccide per le ustioni della benzina e degli agenti tossici, l’ha lasciata ad un’altra donna, che nemmeno conosceva, chiedendole di portarla in salvo. E questa donna, prima di morire della stessa sorte, me l’ha portata. Ma non immaginate quanti bambini, invece, non ce l’hanno fatta. Una volta mi sono trovato davanti a centinaia di sacchi di colori diversi, alcuni della Finanza, alcuni della polizia. Dovevo riconoscerli tutti. Speravo che nel primo non ci fosse un bambino. E invece c’era proprio un bambino. Era vestito a festa. Con un pantaloncino rosso, le scarpette. Perché le loro mamme fanno così. Vogliono farci vedere che i loro bambini sono come i nostri, uguali”.

Ci mostra un altro video. Dei sommozzatori estraggono da una barca in fondo al mare dei corpi esanimi. “Non sono manichini” ci dice.

Il video prosegue.

Un uomo tira fuori dall’acqua un corpicino. Piccolo. Senza vita. Indossava un pantaloncino rosso. “Quel bambino è il mio incubo. Io non lo scorderò mai”.

Non riesco più a trattenere le lacrime.

E il rumore di tutti coloro che, alternadosi in aula, come me, hanno dovuto soffiarsi il naso.

“E questo è il risultato” ci mostra l’ennesima foto. “368 morti. Ma 367 bare. Si. Perché in una c’è una mamma, arrivata morta, col suo bambino ancora attaccato al cordone ombelicale. Sono arrivati insieme. Non abbiamo voluto separarli, volevamo che rimanessero insieme, per l’eternità”.

Penso che possa bastare così. E questo è un estratto. Si, perché il Dottor Bartolo ha parlato per un’ora. Gli altri relatori hanno lasciato a lui il loro tempo. Nessuno ha osato interromperlo. E quando ha finito tutti noi, studenti, medici e professori, ci siamo alzati in piedi e abbiamo applaudito, per lunghi minuti. E basta. Lui non ha bisogno di aiuto, “non venite a Lampedusa ad aiutarci, ce l’abbiamo sempre fatta da soli noi lampedusani. Se non siete medici, se non sapete fare nulla e volete aiutare, andate a raccontare quello che avete sentito qui, fate sapere cosa succede a coloro che dicono che c’è l’invasione. Ma che invasione!”.

E io non mi espongo, perché non so le cose a modo. Ma una cosa la so. E cioè che questo è vergognoso, inumano, vomitevole. E non mi importa assolutamente nulla del perché sei venuto qui, se sei o no regolare, se scappi dalla guerra o se vieni a cercare fortuna: arrivare così, non è umano. E meriti le nostre cure. Meriti un abbraccio. Meriti rispetto. Come, e forse più, di ogni altro uomo.”

—

Il post originale, e il video della conferenza:

https://www.facebook.com/story.php?story_fbid=10215626551389338&id=1007797663

Share now →

This is the 5-4 supreme court decision: 17-204_bq7d (pdf) that gives green light to an antitrust case based on the damage to consumers due to abuse of monopolisitic power by Apple.

It is difficult to argue that prices (including 30% to Apple) would not have been lower if this 30% would not be imposed thanks to its artificial closure of devices. (unnecessary, I would add, as you can install/remove any app you want to/from other Apple products, sourcing those apps directly from suppliers).

I recall when, 1,5 yrs ago, some notable persons in Italy argued in a written memo requested by top politicians that #deviceneutrality (wikipedia) was not an issue.

Then I forecasted, #deviceneutrality would happen first in th US, by an Antitrust decision.

We might well have it coming…

p.s. I am long calling for portability+interconnection+interoperability obligations to be imposed to OTTs with SMP. I have some doubts Europe will legislate in that direction; I think that eventually the US will act, eventually via an antitrust case, when they will fear chinese OTTs and hence they will (re)discover themselves as procompetitive regulation fans.

Share now →

In all the recurring debate abouot breaking up facebook or making all data a commons or whatever, my point is quite easily summarized with a simple slogan

make my data mine

that I would really love to seeing emerge.

it implies that data must not be non-rival and non-excludable.

Remember Hal Varian recently argued data is non rival and only partially excludable. This implies that a way to protect user data is that a silos collects and holds it and provides authenticated access to it. Thus implying that Google’s and the likes is somewhat a ‘natural’ consequence.

thanks to lockins and network effects, this leads to monopolistic/monopsonistic effects.

monopolistic power in the intermediation may artificially alter the equilibrium in the value chain, making markets fail.

the vast possibility of targeting a specific single user with the “best” personalized content/offer thanks to the detailed knowledge of a each specific person, has deep impacts on the economy and the socio-political spheres (think of filter bubbles and the related fake news phenomenon).

but cryptography can make data rival and excludable.

Rivality and Excludability are the basis of private property, and, as I explained in my last two books, making my data mine implies bringing private property to data. And cryptography can make private date stay private (it can be very friendly, privacy-wise).

today we have a feudalistic system, with info-plutocrats ammassing and exploiting vast amount of our data, as I argued in “intermediated of the world, unite”

breaking up a company by antitrust is a last resort but will not prevent the possibility that monopolies quickly form again. (and there may be many other negative externalities I will write (hopefully) soon).

the concept of making data private, with the underlying implicit idea of still having the possibility of using online service, implies the need for interoperability, interconnection and portability of data.

we already have data portability provisions in the european data pivacy regulations (GDPR).

we need to give regulators the possibility to impose interoperability and interconnection obligations to companies with Significant Market Power (and the power to inspect the interfaces and, in the case of misbehavior, sanction them with the strongest possible means) and let the market generate alternatives and innovate.

we now have the technology(ies) to make data private.

it’s a political decision. EU legislators, please make my data mine!.

Share now →

Il Gruppo Guardian, grande testata britannica di stampo globale, ha pubblicato i suoi risultati dopo tre anni di una strategia di riconversione.

Bisogna fare i complimenti, sono risultati eccellenti:

• The Guardian’s audience has grown substantially with record number of regular readers and digital traffic. The Guardian had over 1.35bn page views in March 2019, compared to 790m in April 2016.
• GNM has grown revenues across each of the last three years with revenue growth of 3% to £223 million in 2018/19. Revenues are now at their highest level for a decade.
• GNM’s target of reducing costs by over 20% by 2018/19 has been achieved
• GNM has achieved its break even goal delivering an operating profit at EBITDA level of £0.8 million.
• The Guardian now has over 655,000 monthly paying supporters, across subscribers, recurring contributors and members, and an additional 300,000 one-off contributors in the last year.
• 55% of GNM revenues are now digital, with good growth in digital advertising, digital subscriptions and reader contributions.
• International revenues have doubled since 2015/16 and continue to grow at double-digit levels per year. Both Guardian US and Guardian Australia are now financially sustainable.

I grassetti sono miei.

Sono numeri che dovrebbero far riflettere chiunque altro nell’industria, che non possa essere un brand globale. (e non tanto per la riduzione di costi del 20%, che vuol dire che i costi “di tipo vecchio” sono tagliati molto di più, per compensare i necessari costi “di tipo nuovo” (software, dati, ecc.))

I numeri sono impressionanti… 1,35 miliardi di pagine viste/mese, 680mila paganti/mese, un raddoppio dei ricavi globali (non UK) ed anche 110mila abbonati cartacei ed il 45% dei ricavi non da digitale.

Con tutto questo ben di Dio di prestazioni, è sostanzialmente a breakeven a livello di EBITDA.

Poi, 1,35 miliardi di pagine viste… se non erro, a gennaio in Italia tutti gli editori raggruppati dall’Audiweb, tutti insieme ne hanno fatto meno di un quarto.

A meno che io non sbagli, non è esattamente un messaggio di serenità per chi queste condizioni non riesce/può averle. Sono in pochi a poter realizzare una strategia simile…

Share now →

Jetblue  is a low  cost airline from New York

Share now →

Leggo qui che

HTML5 added a “feature” to the web called hyperlink auditing. You can read the specification from the Web Hypertext Application Technology Working Group (WHATWG). Hyperlink auditing is added to a web page via
the ping attribute on an HTML anchor element (<a>), i.e., a link.

Notice that when you hover over the “Ping Me” link, you only see the href URL, you don’t see the ping URL, so you don’t even know that the attribute exists unless you look at the HTML page source. When you click the link, it loads the page http://lapcatsoftware.com/ as expected. But it also sends an HTTP POST request to http://underpassapp.com/ without any visible indication to the user.
You can only see it if you do a packet trace. It should come as no surprise that the primary usage of hyperlink auditing is for tracking of link clicks.

Firefox disables hyperlink auditing by default, as explained in a knowledge base article. You can see this if you open about:config and look at browser:send_pings.

Prior to Safari 12.1, you could disable hyperlink auditing with a hidden preference:

defaults write com.apple.Safari
com.apple.Safari.ContentPageGroupIdentifier.WebKit2HyperlinkAuditingEnabled
-bool false

Unfortunately, this no longer works in Safari 12.1. […]

I’ve been informed that chrome://flags#disable-hyperlink-auditing is now missing from the Google Chrome betas, even though it still exists in the current non-beta version. The flag was removed from the source code a little over a month ago.

In sintesi: quando clicchi su un link in pratica è come se cliccassi anche su un altro, senza poterlo sapere, a meno di non guardare il codice sorgente della pagina. In questo modo stai dicendo – a tua insaputa – ad un altro cosa stai facendo.

Firefox disabilita questa funzione per default; in Safari si poteva disabilitare ma adesso non più; in Chrome (e derivati, come Brave), per adesso si può disabilitare ma pare non si potrà più.

Bottom line: meno male che Mozilla c’è.

Share now →

This is a point I raised today at the HLEG on AI of the EC (High-level Expert Group on AI of the European Commission)

Like we have the principle of “privacy by design” for systems managing personal data, we should have a principle of “redress by design” for systems based on AI which take decisions that can affect people’s lives.

The basic consideration is that a perfectly functioning AI system will make wrong decisions. For example, a person could be denied a service because of a decision by an AI system.

Such a system is not deterministic like, for example, a speeding  camera can be: if you exceed the speed limit with your car, the speeding camera detects it and you get a ticket. You can appeal the ticket, but you’re guilty until proven innocent because a perfectly working (properly configured, certified and audited) deterministic system “decides” that you are guilty.

But with a perfectly working AI system,  as it is a statistical engine that necessarily produces probabilistic results, this decision might be right 98% of the times and wrong 2% of the times (it would be inappropriate to classify these wrong decisions as mistakes), meaning that in these 2%, the person is detemined to be guilty even when she is not (or cannot obtain a service, even if she has full right of obtaining it).

For the person, the wrong decision can generate spillovers, exceeding the scope of the decision itself, for example by generating social reproach, negative feedbacks online and other consequences that may spread online and become impossible to remove.

In these wrong cases (they can be false positives or false negatives), the appeal procedure may not exist or, if it exist, it may be ineffective, its cost may be excessive, it will not be accessible to all, it may require an excessive time or it will not rectify the above mentioned spillovers.

Redress by design relates to the idea of establishing, from the design phase, mechanisms to ensure redundancy, alternative systems, alternative procedures, etc. in order to  be able to effectively detect, audit, rectify the wrong decisions taken by a perfectly functioning system and, if possible, improve the system.

As an example of redress-by-design implementation, consider the recent EU Directive on copyright: an AI system will decide if a content is purportedly legitimate or is in violation of someone’s copyright.

A perfectly working filtering system will make mistakes and block the publication of some contents. Although overall the number of false positives may be small, the damage caused to these persons’ right to freedom of speech, for those persons will be total.

The details of the appeal procedure in the Directive are very scarce and it is likely that it will be implemented by member states in such a way that (willingly or unwillingly) will inhibit actual appeals. We are therefore not going to have an effective way of timely and freely correct wrong decisions and, even more, we will not gain a precise view of the actual precision of the systems.

A Redress-by-design alternative, for example, could have been granting uploading users the possibility of immediately oppose a decision to block a publication of a content, forcing its publication upon provision by the user of an indirect verification mechanism usable by a court. (pretty much like phone number verification by a messaging app or wifi splash page).

—

Update

I believe this not only may apply to remedy incorrect predictions, but also to increase resilience to adversarial attacks.

think of a system composed by two or more neural networks trained with different algorithms and training sets, each of them delivering similar precision and recall. it would be hard to produce adversarial examples causing both networks to produce incorrect predictions for the same input.

that would increase resilience.
we could have a procedure in place whereby when there is no unanimity between the n networks, or there’s a significant difference in the confidcence of the predictions, an decision by a human could be required.

obviously this would not lead always to correct predictions, but the number of incorrect predictions would reduce.

furthermore, to fill the gap, a person who thinks is being victim of an incorrect prediction could also be provided with a radically different procedure (addressing a correlated, but different issue) in order to expeditely obtain a remedy (like in the example of the copyright directive)

Share now →