Inschrijven voor de nieuwsbrief

An Inconvenient Truth: The dark side of digital

Geplaatst op 1 juni 2018 in Nieuws

An Inconvenient Truth: The dark side of digital

Digitale technologie heeft de mensheid veel goeds gebracht, maar de laatste jaren komt ook haar schaduwzijde aan het licht. Zo wordt er op het dark web eenvoudig in wapens en verdovende middelen gehandeld, legt ransomware wereldwijd bedrijven plat en zorgt deepfake ervoor dat we onze ogen en oren niet meer kunnen geloven.

Welke duistere technologieën duiken er momenteel op? Wat zijn de gevolgen ervan voor onze samenleving? En, hoe valt hier tegenop te treden? Deze en andere vragen stonden centraal tijdens de 67e editie van SMC050. Onder leiding van gastheer Lykle de Vries, schenen Jarno Duursma en Frank Smilda hun licht op de gevaren van digitale technologie, waar de meesten van ons geen weet van hebben.

De risico’s van kunstmatige intelligentie

Jarno Duursma, organisator van SMC050 en auteur van De digitale butler. Kansen en bedreigingen van kunstmatige intelligentie, kaartte in zijn lezing een aantal aspecten van kunstmatige intelligentie (KI) aan die voor problemen kunnen gaan zorgen.

Volgens Duursma maken de vermogens van KI momenteel een groeispurt door. Steeds meer eigenschappen die wij eerder als puur menselijk beschouwden, worden in rap tempo door KI geëvenaard. Hoe dit precies gebeurt is een reden tot zorg, want de onderliggende  processen zijn niet transparant. Met KI heb je een bepaalde input, maar weet je niet exact hoe de output ontstaat. Het is handig voor het herkennen van ‘onschuldige’ beelden, zoals dieren of ziekteverschijnselen, maar er ligt altijd een vorm van vooringenomenheid op de loer, waarschuwt Duursma.

Als voorbeeld geeft hij een systeem dat in de VS wordt ingezet om menselijke risicoprofielen op te stellen. Deze toonde een vooringenomenheid ten aanzien van Afro-Amerikanen: een self-fulfilling prophecy die de code besloten ligt. “Het gevaar is dat we te veel gaan leunen op systemen waarvan we niet weten of het de waarheid is, licht Duursma toe. “We moeten voorkomen dat we moeilijke beslissingen uitbesteden aan KI.”

De werkelijkheid vervaagt

Ons beoordelingsvermogen komt met name onder druk te staan door audiovisuele technologie zoals voice mimicking en deepfake. Deze technologie, die onder meer bij voice assistants en face-swapping wordt ingezet, wordt steeds geavanceerder, en daarmee het bepalen van de authenticiteit lastiger.

“We komen in een periode waarin we onze ogen en oren niet meer kunnen vertrouwen. Waarin de inzet van open source technologie net zo makkelijk wordt als internetbankieren,” aldus Duursma. Zo worden er nu al meldingen gedaan van ‘face-swap blackmailing’. Hierbij wordt iemands profielfoto op een dubieuze dark web-video geplakt, en door kwaadwillenden verspreidt als chantagemiddel.

Privacy en commerciële belangen

Een andere reden tot zorg bij Duursma is dat deze krachtige technologie in handen komt van grote bedrijven met commercieel motief. Door patroonherkenning snappen bedrijven steeds beter dan wij zelf, wie wij zijn, wat we doen, waarom we dat doen en hoe we ons voelen. “Het zou mij niets verbazen als binnen 5 jaar grote Amerikaanse corporates dit soort technologie inzetten om je bijvoorbeeld via webcams burn-out-symptomen op te merken”, voorspelt Duursma.

Daarnaast moeten we het gebruik van KI door overheden niet onderschatten. Zo zetten landen als Rusland, de VS, Noord-Korea en China hier vol op in om personen te monitoren, waarmee de privacy steeds verder onder druk te staan.

Waar Duursma zich echter écht zorgen over maakt, is het programmeren van KI met één bepaald doel, waarbij koste wat kost wordt vastgehouden aan dit doel. “Het klinkt science fiction, maar het dagelijkse realiteit in de vorm van Facebook. De news feed is begonnen om nieuws te tonen maar ontwikkelde zich tot iets wat ons zo lang mogelijk op het platform moet houden: met de filterbubbel tot gevolg.”

Loss of skills

Een belangrijke vraag is dan ook welke menselijke vermogens we momenteel aan het uitleveren zijn aan digitale technologieën. Het voorspellen van het weer via een app is zeker handig, maar verminderd menselijk contact door continu smartphonegebruik vooral zorgwekkend. Duursma maakt de vergelijking met gorilla’s: Zoals de Gorilla afhankelijk is geworden van de mens voor zijn overleven, zo kan de mens ook afhankelijk worden van digitale technologie.

Duursma sluit af met een zorgwekkend toekomstbeeld. “Met de opkomst van KI leunen we steeds meer op systemen die de meest kwetsbaren onder ons meer gaan benadelen. De kloof tussen de haves en have nots gaat steeds groter worden. Wij zitten nu aan de goede kant, maar voor hoe lang nog?”

Cybercrime

Hierna was het woord aan Frank Smilda, ‎Sectorhoofd Dienst Regionale Informatie Organisatie bij de nationale politie. Hij houdt zich bezig met het opsporen en tegengaan van cybercrime. In zijn bloemlezing neemt hij ons mee in de complexe wereld van ‘dark side-ontwikkelingen’, zoals grote hacks, cybercrime as a service, cyberwarfare, cyberterrorisme en dark webs. “Elk klassiek type delict in het wetboek van strafrecht heeft ook een virtuele variant, en op elk type platform zie je die misdaad terug”, aldus Smilda.

In Nederland waakt het Nationaal Cyber Security Centrum al 8 jaar over onze digitale veiligheid. Een aantal vitale sectoren, zoals de zorg-, energie- en watersector, staan hierin centraal. Bij de politie bestaat het High Tech Security-team, waar 150 rechercheurs ‘op Champions League-niveau’ opereren, verzekert Smilda ons.

Exponentiële groei

Smilda kijkt in zijn werk het meest op dan de snelheid en exponentiële groei waarmee technologie voor sinistere doeleinden wordt ingezet. “Als je mij 3 jaar geleden had verteld dat de 3 miljard e-mailaccounts van Yahoo gehackt kunnen worden, had ik je niet geloofd. Nu zie je deze aantallen steeds vaker opduiken”. Zo bezorgde in 2017 de wereldwijde WannaCry-aanval de cyberpolitie wereldwijd kopzorgen. Smilda noemt het een cyber Pearl Harbour op wereldschaal. “De snelheid en professionaliteit waarmee de aanvallen gebeuren gaat je voorstellingsvermogen bijna te boven.”

De crimineel zit heel diep in onze data, en in allerlei vormen, vertelt Smilda. “Wat ingewikkeld is voor politie, defensie en inlichtingendiensten, is in te schatten of je bij hacks met afpersing te maken hebt of een aanval van de staat.

Positieve kanten

Technologie heeft ook zeker positieve kanten voor misdaadbestrijding stelt Smilda. “Social media is voor de tactische opsporing enorm belangrijk geworden. Het MH17-onderzoek door Bellingcat is daar een mooi voorbeeld van. Dit is echt het nieuwe DNA.” Eveneens is de werkwijze van de politie veranderd van repressief reageren naar proactief voorspellen. “Niet alleen het oplossen van zaken is van belang, maar ook ervoor zorgen dat het niet weer gebeurt.”

Helaas signaleert Smilda dat bedrijven die met cybercrime te maken hebben niet altijd aangifte doen. Hierbij speelt het afbreukrisico, imagoschade en schaamte vaak ook een rol. “Maar als wij het niet weten kunnen we het ook niet oplossen. Dus meld het en ga er met ons over in gesprek, anders blijft de cybercrime doorgaan!”

Kritische houding

De belangrijkste boodschap van de avond is dan ook: Wees gewaarschuwd en denk kritisch na over welke negatieve impact nieuwe technologieën op ons leven en samenleving kunnen hebben. Zo voorkomen we dat deze digitale technologieën de duisternis met lichtsnelheid zullen verspreiden.

Delen:
Terug naar het overzicht
Inschrijven nieuwsbrief

Elke maand een update

Meld je aan voor de nieuwsbrief