Alarmerend bericht over hersenleestechnologie en neurokapitalisme

Alsof de klimaatcatastrofe niet erg genoeg is, vinden grote magnaten als Mark Zuckerberg en Elon Musk de tijd rijp om de laatste vesting van de privacy, het brein, commercieel te ontginnen. Wat zijn de consequenties van dit neurokapitalisme? Jessica Corbett op commondreams.org (30 augustus 2019).

Afbeelding: collage Max Ernst 1921

Na de recente bekendmaking dat Facebook en Neuralink van Elon Musk technologieën ontwikkelen om de gedachten van mensen te lezen, bracht een Vox artikel, waarin werd uiteengezet hoe “in het tijdperk van neurokapitalisme je hersenen nieuwe rechten nodig hebben” vrijdag al snel onrust teweeg op internet.

De auteur Sigal Samuel, berichtte in het Vox artikel:

Het bedrijf van Mark Zuckerberg financiert onderzoek naar brein-computerinterfaces (BCI’s) die gedachten rechtstreeks van je neuronen kunnen oppikken en in woorden kunnen vertalen. De onderzoekers zeggen dat ze al een algoritme hebben ontwikkeld dat woorden in realtime kan decoderen van hersenactiviteit.

En het bedrijf van Musk heeft flexibele ‘draden’ gemaakt die in hersenen kunnen worden geïmplanteerd en waarmee je op een zekere dag je smartphone of computer met alleen je gedachten kunt bedienen. Musk wil eind volgend jaar beginnen met het testen op mensen.

Rekening houdend met de vorderingen en ambities van die en andere bedrijven, waarschuwde Samuel dat “je brein, het ultieme domein van je privacy, misschien niet veel langer privé is”. Hij legde uit dat bestaande wetten niet zijn toegerust om om te gaan met hoe deze opkomende technologieën “kunnen ingrijpen in rechten die zo elementair zijn dat we ze misschien niet eens als rechten beschouwen, zoals ons vermogen om te bepalen waar ons zelf eindigt en de machines beginnen.”

My god.

“The technologies have the potential to interfere with rights that are so basic that we may not even think of them as rights, like our ability to determine where our selves end and machines begin. Our current laws are not equipped to address this.”https://t.co/H8EeBijuco

— Public Citizen (@Public_Citizen) August 30, 2019

Samuel interviewde neuro-ethicus Marcello Ienca, een onderzoeker bij ETH Zurich, die in 2017 een artikel publiceerde over vier mensenrechten voor het neurotechnologische tijdperk die volgens hem beschermd moeten worden door de wet. Ienca vertelde Samuel, “Ik ben erg bezorgd over de commercialisering van hersendata in de consumentenmarkt.”

“En ik heb het niet over een verre toekomst. Er bestaat al een consumentenneurotechnologie, waarin mensen hun hersengegevens verkopen voor diensten van particuliere bedrijven,” zei hij, wijzend op videogames die hersenactiviteit gebruiken en draagbare apparaten die menselijke activiteiten bewaken, zoals slaap. “Ik ben geneigd om het neurokapitalisme te noemen.”

Neuro-mensenrechten

Het Vox-artikel bracht het nieuws van de vier rechten die volgens Ienca beleidsmakers met nieuwe wetgeving dringend moeten beschermen:

  1. Het recht op cognitieve vrijheid: je moet het recht hebben om vrijelijk te beslissen dat je een bepaalde neurotechnologie wilt gebruiken of weigeren.
  2. Het recht op mentale privacy: je moet het recht hebben om jouw hersendata te isoleren of openbaar te delen.
  3. Het recht op mentale integriteit: je moet het recht hebben om fysiek of psychologisch niet te worden geschaad door neurotechnologie.
  4. Het recht op psychologische continuïteit: je zou het recht moeten hebben om beschermd te worden tegen veranderingen in je gevoel van eigenwaarde die je niet hebt toegestaan.

“De gegevens in de hersenen zijn het ultieme toevluchtsoord voor privacy. Als die wijkplaats verdwijnt, verdwijnt alles”, zei Ienca. “En zodra hersendata op grote schaal worden verzameld, zal het heel moeilijk zijn om dat proces nog te keren.”

Samuels artikel genereerde bezorgd commentaar op Twitter, zoals dat van lezers die het stuk “het engste wat je vandaag zal lezen” vinden en verklaren: “In zo’n toekomst wil ik niet leven.”

In case you were sleeping too well lately https://t.co/KIPtFSXUpv

— Joe Stewart-Sicking (@revjoess) August 30, 2019

Techverslaggever Benjamin Powers twitterde : “Hoelang duurt het voordat dit ook gebruikt wordt voor nationale veiligheidsdoeleinden?”

“The researchers say they’ve already built an algorithm that can decode words from brain activity in real time.” So how long until this is co-opted for national security purposes? https://t.co/Uoo5XQ09Fh

— Benjamin Powers (@benjaminopowers) August 30, 2019

Ienca merkte tijdens zijn interview met Samuel op dat het researchbureau van het ministerie van Defensie onderzoekt hoe neurotechnologie bij soldaten kan worden gebruikt. Volgens hem: “is er door het leger al onderzoek gefinancierd om te zien of we dalingen in aandachtsniveaus en concentratie kunnen monitoren, met hybride BCI’s, die tekorten in aandachtsniveaus kunnen ‘lezen’ en naar de hersenen kunnen ‘schrijven’ om de alertheid door neuromodulatie te vergroten. Er zijn door DARPA gefinancierde projecten die hiertoe pogingen ondernemen.”

Dergelijke technologieën wekken niet alleen bezorgdheid op over misbruik door overheden, maar ook door bedrijven.

Journalist Noah Kulwin vergeleek de hersenleestechnologie met zelfrijdende auto’s, suggererend dat deze “onmogelijk kan werken zoals momenteel door marktpartijen wordt voorgesteld,” en gezien het feit dat overheden niet zijn voorbereid op bescherming van de mensenrechten, zullen bedrijven de vrijheid krijgen om “een hoop ongereglementeerde experimenten te doen .”

This sounds like self-driving cars. The technology can’t possibly work as presently marketed, and the government not being prepared=it’s just going to let companies do a bunch of unregulated experimentation https://t.co/QmCWG4Ydh1

— noah kulwin (@nkulw) August 30, 2019

Geef een reactie

Vul je gegevens in of klik op een icoon om in te loggen.

WordPress.com logo

Je reageert onder je WordPress.com account. Log uit /  Bijwerken )

Google photo

Je reageert onder je Google account. Log uit /  Bijwerken )

Twitter-afbeelding

Je reageert onder je Twitter account. Log uit /  Bijwerken )

Facebook foto

Je reageert onder je Facebook account. Log uit /  Bijwerken )

Verbinden met %s