#Putin #Poetin #mugshot #MugShotTrump #TrumpMugShot #Trump @delimburger pic.twitter.com/ZehRht04u8
— Ruben L. Oppenheimer 🏴☠️ (@RLOppenheimer) August 26, 2023
Posts tonen met het label ICT. Alle posts tonen
Posts tonen met het label ICT. Alle posts tonen
dinsdag 29 augustus 2023
CARTOON @RLOppenheimer #Putin #Poetin #mugshot #MugShotTrump #TrumpMugShot #Trump @delimburger
donderdag 13 juli 2023
EVEN NADENKEN OVER WERKEN & PRODUCTIVITEIT: 'Nederland wordt dommer' / GROENE-OPINIE COLUMNIST ECONOMIE KOEN HAEGENS /
Mariana Mazzucato: How does innovation really happen? |
Bekijk het Hier: WIRED Smarter 2019
*
Column Economie
Nederland wordt dommer
28 juni 2023 – verschenen in de Groene Amsterdammer nr. 26
Je leest de Originele column met foto op Groene.nl --- Hier ----
En, nog een beetje lekker gewerkt vandaag? Veel voor elkaar gekregen? Of was het zo’n dag waarop het to-dolijstje het verloor van de smartphone?
Wie dit soort gesprekken regelmatig voert, hoeft niet per se manager, opzichter of Ben Tiggelaar te zijn. Onder hoger opgeleiden van pakweg 25 tot 55 jaar is praten over hoe (on)productief je bent net zo gangbaar als klagen over het weer. Het blijft niet bij woorden. Er zijn coaches en trainers om te helpen, productiviteit-challenges en in de stationsboekhandel ligt, tussen biografieën van steeds obscuurdere voetballers en Lucinda Rileys Zeven zussen, een indrukwekkende stapel zelfhulpboeken: van The 4-Hour Work Week en Getting Things Done tot Grip: Het geheim van slim werken.
Met zoveel goede voornemens zou je denken dat de economie gouden tijden beleeft. Helaas. Het bbp groeit, maar dat is vooral domme kracht: het aantal gewerkte uren stijgt. Van efficiënter, laat staan slimmer werken lijkt amper sprake. De stijging van de arbeidsproductiviteit – de hoeveelheid gemaakte spullen en geleverde diensten per gewerkt uur – is het afgelopen decennium tot onder de 0,3 procent per jaar gezakt. In 2016, 2018 en 2019 was zelfs sprake van een daling. Tussen 1996 en 2007 steeg zij gemiddeld nog met 1,5 procent.
Hoe is dat mogelijk? Economen wijzen op het groeiende belang van sectoren waar de productiviteit van oudsher minder hard stijgt dan in de industrie. Denk aan de gezondheidszorg, tobbende uitvoeringsorganisaties als het UWV en dienstverlening in het algemeen. Er is ook de hypothese dat in westerse economieën, als het gaat om maatregelen die de productiviteit bevorderen, het laaghangende fruit wel zo’n beetje geplukt is. Bovendien hebben decennia van loonmatiging arbeid in Nederland relatief goedkoop gemaakt. Dat zou de prikkel wegnemen voor bedrijven om te investeren in nieuwe, arbeidsbesparende technologie.
Je krijgt bijna heimwee naar het tijdperk van vóór de zelfhulpboeken
Ik mis één overkoepelende verklaring: de privatisering van de arbeidsproductiviteit. Het doorgaans onuitgesproken idee dat efficiënter werken uitbesteed kan worden aan de individuele werkende. Dat wordt, ten eerste, gevoed door veranderingen op de arbeidsmarkt. Nederland telt bijna 1,2 miljoen zelfstandigen zonder personeel. Er wordt sinds de coronacrisis massaal thuisgewerkt, en sowieso is een aanzienlijk deel van de beroepsbevolking actief in beroepen die draaien om kennis en creativiteit. Dat zijn allemaal mensen die zich ’s ochtends niet langer op een vast tijdstip in de fabriek of op kantoor melden voor instructies. In plaats daarvan moeten ze zelf maar zien hoe ze aan het einde van de week hun targets halen.
Daarnaast is er de veranderde tijdgeest. Eind jaren zeventig voorspelde Michel Foucault, in zijn fameuze colleges over het neoliberalisme, de opkomst van ‘het zelf als onderneming’. Zeg maar de ik-bv. Dit zijn de modelwerknemers die als het ware de prikklok hebben ingeslikt. Voor wie vakantie een kans is om ‘de batterij op te laden’. Via de Fitbit wordt nauwgezet bijgehouden hoe het met de conditie van de productie-eenheid staat. En natuurlijk is er altijd en overal de smartphone. Een apparaat dat tijd zou moeten besparen, maar in plaats daarvan eerder uren lijkt op te slurpen.
Deze privatisering berust op een fataal misverstand over waar onze stijgende arbeidsproductiviteit vandaan komt. Niemand zal durven beweren dat de mensheid vroeger luier was dan nu. Toch weten wij veel meer welvaart te produceren in veel minder tijd. Dat is te danken aan een collectieve inspanning. Een die gepaard gaat met enorme (publieke) uitgaven aan onderzoek, machines, automatisering en robots. Zie het werk van Mariana Mazzucato.
Helaas geven te veel bedrijven hun miljarden liever weg aan de aandeelhouders dan ze te investeren. Je zou bijna heimwee krijgen naar het tijdperk van vóór de zelfhulpboeken. Toen werkgevers geen sportschoolabonnement uitdeelden, laat staan een slaapbonus, zoals in Japan. Toen een beetje werknemer het weekend rokend en drinkend doorbracht op de bank. Dat was tot in de jaren zeventig – en de productiviteit steeg jaar in jaar uit met dik vijf procent. Maar die onvermoede waarheid vertellen de ‘10 tips om beter te presteren’ op LinkedIn nou nooit.
Reageren? Haegens@groene.nl
MEER Groene Amsterdammer in deze editie:
Nr. 26 /
Onderzoek Het voorwaardelijk sepot
Jaarlijks krijgen tienduizend mensen géén straf maar wél een strafblad
En dan nog heel veel meer....
dinsdag 11 juli 2023
EINDELIJK IS HET KWARTJE GEVALLEN...RUTTE vs. (80% van de ) BURGERS / DE KLOOF / DEMOCRATIE - (ON-) GELIJKHEID / MENSEN vs. BIG BUSINESS / MENSELIJKE MAAT vs. ALGORITMEN /
Trouw.nl, 22 april 2023 - Berend Vonk is een van de Cartoonisten die
voor Trouw 'de Cartoon van de Dag' verzorgt
Lang gewacht...
(Niet altijd) Stil gezwegen...
(Soms wel) Nooit gedacht...
Toch (eindelijk) gekregen...
(Vrij vertaald naar ´Spreekwoorden')
woensdag 20 april 2022
NOU DAAR HOPEN WE DAN MAAR OP! / PUTINS WAR IN HET KADER VAN 'MISDAAD EN STRAF': ‘Binnen een jaar is president Poetin aangeklaagd’ (bij het Internationaal Strafhof in Den Haag) /
.jpg)
Cartoon overgenomen van khpg.org
‘Binnen een jaar is president Poetin aangeklaagd’ (bij het Internationaal Strafhof in Den Haag)
Vervolging Worden de schuldigen van de gruwelen in Oekraïne ooit vervolgd? Drie deskundigen zijn optimistisch – mits het Strafhof versterkt wordt.
Leestijd 4 minuten Originele artikel op NRC.nl --- Hier ---
/s3/static.nrc.nl/images/gn4/stripped/data84689888-7c0a13.jpg)
Lichamen van Oekraïense burgers worden opgegraven op het terrein van de kerk van Sint-Andreas in Boetsja, een voorstad van Kiev. Foto Fadel Senna
De internationale reactie op de oorlog in Oekraïne is een volgende fase ingegaan. Na de diplomatie, de sancties en de wapenleveranties staat de schijnwerper sinds de moordpartij in Boetsja en de belegering van Marioepol vol op rechtspleging. Zullen de daders boeten voor hun misdaden? Of ontkomen de Russen in Oekraïne even gemakkelijk aan gerechtigheid als in Syrië?
De terugtrekking van Russische troepen heeft de weg vrijgemaakt voor onderzoeksteams van zowel Oekraïense als internationale experts. Het openbaar ministerie van Oekraïne zoekt naar bewijzen voor oorlogsmidaden en misdaden tegen de menselijkheid. Dan zijn er onderzoekers van het Internationaal Strafhof in Den Haag en onderzoekers van de VN die in een zogeheten ‘internationaal, onpartijdig en onafhankelijk mechanisme’ werken, zoals dat voor de oorlog in Syrië is opgezet.
De Amerikaanse president Joe Biden zette de kwestie van de gerechtigheid dinsdag verder op scherp toen hij zei dat de daden van Russische militairen in Oekraïne neerkomen op genocide. Het leidde onmiddellijk tot reacties van politici in beide kampen. De Oekraïense president Volodymyr Zelensky vond dat Biden „als een leider” had gesproken. De Franse president Emmanuel Macron waarschuwde juist tegen een „escalatie van de retoriek”.
Drie experts in het internationaal recht, telefonisch gevraagd, zien de uitspraak van Biden en de reacties erop vooral als politiek wapengekletter. „Op de rechtsgang zal zijn uitspraak geen effect hebben”, zegt Valerie Oosterveld, hoogleraar aan de Canadese Western Law-universiteit. „Een aanklager zal zich hierdoor niet laten afleiden”, zegt David Crane, voormalig hoofdaanklager van het Speciaal Tribunaal voor Sierra Leone.
Of sprake is van genocide in de juridische zin van het woord, is vers twee. Oosterveld zegt voorzichtig dat er in het oorlogsgebied „sommige aanwijzingen voor zijn”. Helen Duffy, hoogleraar internationale mensenrechten te Leiden, zegt dat genocide „niet zo duidelijk, maar niet onmogelijk” is. Crane ziet in de beelden en berichten „eerder soldaten en commandanten die op eigen houtje moorden. Oorlogsmisdaden, misdaden tegen de menselijkheid? Vast en zeker. Genocide? Lastig te bewijzen en ik denk van niet.”
Wat maakt het eigenlijk uit hoe je het noemt, zegt Crane erbij. „In Marioepol zijn tienduizend burgers omgekomen. Kan het hun familie schelen of dat een oorlogsmisdaad of genocide was?”
De uitspraak van Biden heeft vooral een politieke bedoeling, denkt Crane: druk zetten op Poetin. Andere landen en leiders duidelijk maken dat wat hij doet, niet kán. Crane zegt zelfverzekerd: „Ik ben de enige aanklager die een zittend staatshoofd heeft aangeklaagd en met succes, president Charles Taylor van Liberia, voor het Sierra Leone-tribunaal.” Hij is even optimistisch over de kans op gerechtigheid in dit geval: „Poetin is binnen een jaar aangeklaagd”, zegt hij. „Hij kan nog altijd een staatshoofd zijn, maar hij is zijn legitimiteit al kwijt en zijn positie wordt alleen maar zwakker.” Oosterveld ziet nog een ander positief gevolg van de uitspraak van Biden: hij helpt de politieke wil te versterken om de daders te vervolgen.
Versterking van het Strafhof
Donderdag kwam de minister Wopke Hoekstra (Buitenlandse Zaken, CDA) op bezoek bij zijn Amerikaanse collega Antony Blinken. Na afloop zei hij tegen Nederlandse journalisten dat hij blij was dat de Amerikanen willen helpen bij het versterken van de rol die het Internationaal Strafhof kan spelen bij het onderzoek in Oekraïne. „Juist omdat de VS enige afstand hebben tot het Strafhof.”
Formeel erkennen de VS het Strafhof niet. Dat had voorheen alles te maken met de oorlogen waarin de VS zelf verwikkeld waren. Deelnemers aan de geheime oorlog van de CIA in de jaren na de aanslagen van 11 september 2001 konden profiteren van een wettelijke bescherming die uitlevering van Amerikaanse verdachten aan het Strafhof onmogelijk maakten. President Donald Trump tekende zelfs een decreet voor sancties tegen Strafhof-medewerkers die onderzoek wilden doen naar misdaden van de VS of bondgenoten, zoals Israël.
Of de VS ook financiële hulp aan het Strafhof zullen geven, zoals Hoekstra begin deze week wel kreeg van Europese landen, wilde de minister niet zeggen. „Dat is aan de Amerikanen om zich over uit te laten.”
Versterking van het Strafhof is in dit verband geen luxe, zeggen de drie rechtsgeleerden. „Met het huidige budget kan het hof vijf of zes mensen per jaar vervolgen”, zegt Valerie Oosterveld. „Er is geen budget voor onverwachte gebeurtenissen als deze oorlog”, zegt David Crane. „Het Strafhof heeft bovendien een bredere opdracht dan alleen deze oorlog”, onderstreept Helen Duffy.
Crane is voorstander van de instelling van een Speciaal Tribunaal voor Oekraïne, naar analogie van eerdere tribunalen voor bijvoorbeeld Joegoslavië en Rwanda. Hij is betrokken bij gesprekken die daarover op dit moment gaande zijn. Minister Hoekstra zegt desgevraagd dat hij daar niet voor voelt. „Wij denken dat het de beste kans op gerechtigheid is om het Strafhof hier een rol in te laten spelen. Als je iets nieuws gaat optuigen, loop je het levensgrote risico dat je verzandt in procedures, met landen die aan de verkeerde kant staan. Die zo’n tribunaal zullen proberen te blokkeren.” Eerdere tribunalen werden doorgaans opgezet met instemming van de VN-Veiligheidsraad. Daar zit Rusland in als permanent lid met vetorecht. Crane en Oosterveld zeggen dat er ook andere manieren zijn om een Speciaal Tribunaal op te richten, waar de Veiligheidsraad niet aan te pas komt.
Alle drie zien de experts het belang van een coördinerende rol voor het Strafhof, maar ze zien ook een tekort. Het Strafhof heeft bij zijn oprichting geen rechtsmacht waar het aankomt op crimes of aggression. Het feit dat Rusland een niet-uitgelokte oorlog tegen Oekraïne heeft ontketend, is het begin van alle misdaden die daar zijn begaan. „En het brengt je meteen bij de top: Poetin en zijn besluit tot invasie”, zegt Duffy.
Duffy ziet bij de oorlog in Oekraïne een „uitzonderlijke mate van samenwerking” bij het onderzoek naar oorlogsmisdaden en misdaden tegen de menselijkheid. Intussen hebben 41 landen zich bereid verklaard onderzoek te doen voor zaken die bij het Internationaal Strafhof zouden kunnen eindigen.
Het verheugt haar en stemt tegelijkertijd tot nadenken. Waarom juist deze oorlog? „Er zijn zo veel conflicten waar de misdrijven onbestraft zijn gebleven, zoals de Russische misdaden in Syrië en de Amerikaanse in de oorlog tegen terreur.” De eerdere Amerikaanse houding ten aanzien van het Strafhof heeft de legitimiteit ervan ondermijnd, zegt Duffy, en ze hoopt dat dit nu verandert.
Volgens haar ligt de oplossing vooral in het versterken van het Strafhof en in een uitbreiding van het mandaat, waardoor ook crimes of aggression zouden kunnen worden vervolgd. „Op die manier hoeft de internationale gemeenschap niet elke keer een nieuw vehikel in elkaar te zetten om een nieuwe oorlog te onderzoeken. Dan worden alles misdaden even krachtig vervolgd, zonder aanzien van de nationaliteit van de verdachte.”
Internationaal recht Drie experts
David Michael Crane was van 2002 tot 2005 hoofdaanklager van het Speciaal Tribunaal voor Sierra Leone. Hij is met pensioen en als fellow verbonden aan de rechtenfaculteit van de Universiteit van Syracuse in New York.
Valerie Oosterveld is hoogleraar aan de Canadese Western Law-universiteit. Eerder was ze voor haar land lid van regeringsdelegaties bij besprekingen inzake het Internationaal Strafhof.
Helen Duffy is hoogleraar internationale mensenrechten aan de Universiteit Leiden. Voorheen was zij werkzaam bij het Joegoslaviëtribunaal en bij Human Rights Watch.
Lees ook deze artikelen op NRC.nl:
-
Jurist Philippe Sands: ‘Klaag Poetin en zijn inner circle aan voor de misdaad van agressie’
'Gerechtigheid slachtoffers MH17 in Den Haag'
Aanklagers en rechters staan hier al klaar, schrijft Strafhofinsider Olivia Q. Swaak-Goldman.
-
Het Joegoslaviëtribunaal bereikte veel, maar geen verzoening
-
In Zelensky’s speech worden Oekraïne en het Westen één
Een en ander neemt trouwens niet weg dat ik van mening ben dat ALLE politici die zich schuldig maken aan Oorlogsmisdaden bij het ICT zouden moeten worden aangeklaagd, en als het even kan ook veroordeeld natuurlijk...bijvoorbeeld:
.jpg)
.jpg)
.jpg)
En (helaas) komen er nog heel veel andere zogenaamde 'leiders' in aanmerking voor vervolging...
.jpg)
.jpg)
.jpg)
vrijdag 2 april 2021
AANRADER / GROENE BOEK FRAGMENT / SOCIALE MEDIA: Informaticus Jaron Lanier's 'Bummer' = Het op maat gemaakte ongeluk (van de Sociale Media)
Het goddelijke perspectief van Silicon Valley
Op maat gemaakt ongeluk
Er zijn tien argumenten om nu, meteen, uw sociale-media-accounts te verwijderen. Informaticus Jaron Lanier beschrijft ze in zijn nieuwe boek. In deze voorpublicatie leest u er twee.
Jaron Lanier
Cartoons: Milo
Groene Amsterdammer, 1 augustus 2018 – verschenen in nr. 31
Argument zes: sociale media gaan ten koste van je empathisch
vermogen
Onderdeel c van Bummer – content door je strot
geduwd krijgen – betekent dat algoritmen bepalen wat je te zien
krijgt. Dat betekent dat je niet weet wat andere mensen zien, omdat
onderdeel c andere resultaten voor hen berekent. Je weet niet hoezeer
de kijk op de wereld van andere mensen is bevooroordeeld en gevormd
door Bummer. Gepersonaliseerde zoekresultaten, feeds, streams
enzovoort liggen aan de basis van dit probleem.
Stel je voor dat een gedragspsycholoog uit voorbije tijden een rij honden in kooien in een lab zette en dat elke hond iets lekkers of een elektrische schok kreeg, afhankelijk van wat hij zojuist had gedaan. Het experiment zou alleen werken als elke hond stimuli kreeg die gerelateerd waren aan het specifieke gedrag van die hond. Als de draden werden verward en de honden elkaars stimuli kregen, zou het experiment niet langer functioneren. Hetzelfde geldt voor mensen in een Bummer-platform. De gevolgen zijn voor mensen echter nog groter dan voor honden, omdat mensen niet in afzonderlijke kooien zitten en daarom in hoge mate afhankelijk zijn van sociale perceptie.
Dit betekent dat we naar elkaars reacties kijken om te weten wat we moeten doen. Als iedereen in je omgeving ergens nerveus over is, zul jij ook nerveus worden, omdat er wel iets aan de hand moet zijn. Als iedereen ontspannen is, ben je geneigd zelf ook te ontspannen. Een bekende grap die we uithaalden toen ik klein was, was ergens naartoe gaan waar andere mensen waren en dan gewoon naar de lucht gaan staan kijken. Al snel keek iedereen naar de lucht, ook al was er niets te zien.
Maar als we allemaal verschillende privéwerelden zien, verliezen onze hints aan elkaar aan betekenis. Onze perceptie van de werkelijkheid achter het Bummer-platform lijdt daaronder. Er zijn veel recente voorbeelden, zoals die keer dat iemand een schot loste in een pizzeria vanwege het overspannen online idee dat er vanuit de kelder kindermisbruik werd gefaciliteerd. Vóór Bummer werden er ook wel valse opvattingen verspreid als gevolg van massahysterie, zoals tijdens de heksenjachten, maar acute gevallen waren zeldzamer dan nu. De snelheid, de idiotie en de schaal van valse sociale percepties zijn zodanig toegenomen dat mensen vaak niet meer in dezelfde wereld, de echte wereld, lijken te leven.
Dit is nog zo’n probleem dat plotseling is opgedoken. De publieke ruimte heeft minder dimensie gekregen, maar de gemeenschappelijkheid in het algemeen is ook minder geworden. Een gedachte-experiment kan ons helpen begrijpen hoe vreemd onze situatie is geworden. Stel je voor dat Wikipedia aan elke bezoeker een andere versie van een artikel zou laten zien op basis van een geheim dataprofiel van die persoon. Pro-Trump-bezoekers zouden een volledig ander artikel te zien krijgen dan anti-Trump-mensen, maar er zou geen verantwoording zijn van wat er anders was, of waarom.
Dit klinkt misschien bizar, als een naargeestig toekomstbeeld, maar het is vergelijkbaar met wat je ziet in je Bummer-feed. Content wordt gekozen en advertenties worden voor jou gepersonaliseerd – en je weet niet hoeveel er voor jou veranderd is, of waarom.
Er zijn nog altijd resten van de oude gemeenschappelijke wereld. Je kunt naar het ouderwetse tv-nieuws kijken dat mensen graag willen dat je ziet, of dat mensen zien die anders zijn dan jij. Ik kijk in de Verenigde Staten bijvoorbeeld niet graag naar Fox News, omdat ik het te paranoïde, partijdig en chagrijnig vind. Maar soms kijk ik ernaar en dat helpt me begrijpen wat andere mensen die ernaar kijken denken en voelen. Ik koester die mogelijkheid.
Maar je sociale-mediafeed kan ik niet zien. Ik ben daardoor minder in staat me te verplaatsen in wat je denkt en voelt. Nu hoeven we niet allemaal hetzelfde te zien om elkaar te begrijpen; alleen ouderwetse autoritaire regimes proberen iedereen daartoe te dwingen. Maar we moeten wel af en toe een blik kunnen werpen op wat andere mensen zien.
Empathie is de brandstof die een fatsoenlijke samenleving gaande houdt. Als die er niet is, blijven alleen droge regels en machtsstrijd over. Misschien ben ik wel verantwoordelijk voor het introduceren van de term ‘empathie’ in de hightechmarketing, omdat ik in de jaren tachtig van de vorige eeuw voor het eerst over virtual reality sprak als instrument voor empathie. Ik geloof nog altijd dat het mogelijk is om technologie in te zetten om empathie te bevorderen. Als er in een betere toekomst überhaupt sprake is van betere technologie, zal empathie daar een rol in spelen. Maar Bummer is juist afgesteld om ons empathisch vermogen te vernietigen.
Een gebruikelijke en terechte kritiek op Bummer is dat het ‘filterbubbels’ creëert. Je eigen opvattingen worden soepeltjes bekrachtigd, tenzij je wordt geconfronteerd met de meest irritante tegengestelde opvattingen, zoals berekend door algoritmen. Ze kunnen geruststellend zijn of verontrustend: wat je aandacht maar het beste vasthoudt.
Je wordt samen met andere mensen in een categorie ondergebracht waar jullie als groep maximaal kunnen worden aangesproken. Bummer-algoritmen neigen er intrinsiek naar mensen samen te brengen in bubbels, omdat het effectiever en goedkoper is om de aandacht van een groep vast te houden dan van afzonderlijke mensen. (Maar zoals je misschien weet, is de juiste term ‘manipuleren’ en niet ‘aanspreken’, omdat het gebeurt in dienst van onbekende externe partijen die Bummer-bedrijven betalen om jouw gedrag te veranderen. Waar betalen ze anders voor? Waarvoor anders kan Facebook zeggen dat het tientallen miljarden dollars betaald krijgt?)
Op het eerste gezicht zijn filterbubbels slecht, omdat ze je een tunnelvisie op de wereld bezorgen. Maar zijn ze wel zo nieuw? Er waren toch voorafgaand aan Bummer ook al schadelijke en irritante vormen van sociale communicatie waardoor groepen werden buitengesloten, zoals het gebruik van racistische zogenoemde ‘hondenfluitjes’ in de (Amerikaanse) politiek (het aanspreken van een bepaalde groep door middel van gecodeerde boodschappen). Tijdens de Amerikaanse presidentsverkiezingen van 1988 bijvoorbeeld maakten politici gebruik van het verhaal van een zwarte man genaamd Willie Horton, die tijdens zijn verlof misdaden had gepleegd, om latent racisme onder kiezers uit te lokken. Maar iedereen kreeg toen dezelfde advertentie te zien, zodat je in elk geval wist waarom iemand anders daar racistisch op reageerde, zelfs al was je het er absoluut niet mee eens.
Maar nu zie je die racistische advertenties niet altijd meer. Dat komt soms doordat het om zogenoemde dark ads (gepersonaliseerde, niet voor iedereen zichtbare advertenties) gaat die mensen in hun nieuwsfeeds krijgen, ook al zijn ze technisch gesproken niet echt als nieuws gepubliceerd. Veel extremistische dark ads op Facebook kwamen pas aan het licht bij forensisch onderzoek naar wat er tijdens de verkiezingen van 2016 was gebeurd. Ze waren schreeuwerig en venijnig en Facebook heeft plannen aangekondigd om de schade die ze aanrichten te beperken. Buiten – of misschien ook binnen – Facebook weet niemand hoe gebruikelijk of effectief dark ads en vergelijkbare boodschappen zijn. De meest gebruikelijke vorm van online bijziendheid is echter dat mensen alleen maar tijd hebben om te lezen wat er door algoritmische feeds onder hun neus wordt geschoven.
Ik ben banger voor de subtiele algoritmische afstemming van feeds dan voor schreeuwerige dark ads. Het was niet eerder mogelijk om miljoenen mensen tegelijk berichten op maat te sturen. Ook het testen van massa’s op maat gemaakte boodschappen en ontwerpen, op basis van gedetailleerde waarneming en feedback van nietsvermoedende mensen die voortdurend in de gaten worden gehouden, was vroeger niet mogelijk.
Dit is een van de redenen waarom Bummer vanzelfsprekend tribalisme promoot en de samenleving verscheurt, ook al bedoelen de technische jongens bij een Bummer-bedrijf het goed. Bummer-code grijpt automatisch elke vorm van latente stammenstrijd en racisme aan, want dat zijn de neurale hashtags in ieders geest die kunnen worden getriggerd om het aandachtsmonopolie op te eisen.
Je wereldbeeld wordt niet alleen vervormd, maar je bent je ook minder bewust van het wereldbeeld van andere mensen. Je wordt uitgesloten van de ervaringen van andere groepen die op een andere manier worden gemanipuleerd. Hun ervaringen zijn voor jou net zo ondoorzichtig als de algoritmen die je ervaringen aansturen. Deze ontwikkeling is van grote betekenis. De versie van de wereld die jij ziet is onzichtbaar voor de mensen die je niet begrijpen, en vice versa.
Het vermogen om je in iemand anders te verplaatsen om die ander beter te begrijpen, wordt theory of mind (ToM) genoemd. Een theory of mind hebben betekent dat je in gedachten een verhaal maakt over wat er in iemands hoofd gebeurt. Theory of mind ligt aan de basis van elk gevoel van respect of empathie en is een voorwaarde voor elke vorm van intelligente samenwerking, burgerschap of zinvolle politiek. Het is de reden waarom verhalen bestaan.
Je kent de uitdrukking wel: niet graag in iemands schoenen staan. Je kunt mensen niet begrijpen als je niet een heel klein beetje weet wat ze hebben doorgemaakt. Als je alleen ziet hoe iemand anders zich gedraagt, maar niet welke ervaringen zijn gedrag hebben beïnvloed, wordt het moeilijker om een theory of mind over die persoon te hebben. Als je iemand ziet die iemand anders slaat, bijvoorbeeld, maar je weet niet dat hij dat doet om een kind te beschermen, kun je wat je ziet verkeerd interpreteren.
Als je de dark ads, de geruchten, de harteloze memes en de bespottelijke, gepersonaliseerde feed niet ziet die de ander wel ziet, denk je dat die persoon gewoon gek is. En zo ziet onze nieuwe Bummer-wereld eruit. We denken van elkaar dat we gek zijn omdat Bummer ons van onze theorieën over elkaars mind berooft. Zelfs als de ervaringen van anderen openhartig worden vastgelegd op camera, misschien door een smartphone of een dashcam, genereert Bummer genoeg ruis om elke saamhorigheid te vernietigen. Ondoorzichtigheid als gevolg van Bummer zie je voortdurend online. Een video laat bijvoorbeeld het moment vlak voor een schietpartij door de politie zien, maar Bummer laat mensen eindeloos veel versies van de video uploaden met verschillende edits, beelden-in-beelden en afschermingen. Empathie gaat verloren in de ruis.
Ik vind Trump-aanhangers gestoord en zij vinden progressievelingen gestoord. Maar het klopt niet dat we uit elkaar zijn gegroeid en elkaar niet begrijpen. Wat er echt aan de hand is, is dat we minder dan ooit tevoren zien wat anderen zien, dus krijgen we minder de kans om elkaar te begrijpen. Natuurlijk kun je wel íets volgen van de doorsnee content die andere mensen waarschijnlijk zien. Ik houd bijvoorbeeld conservatieve websites bij. Ik zoek altijd persoonlijk contact met mensen die het niet met me eens zijn, als ze daartoe bereid zijn.
Als mensen nerveus zijn over de vraag of ze wel populair genoeg zijn, dan moeten ze wel online blijven
Hoe groot het verschil is tussen wat iemand anders te zien krijgt en wat ik kan raden dat iemand anders te zien krijgt, kun je nooit weten. De ondoorzichtigheid van onze tijd is nog groter dan strikt noodzakelijk, omdat de mate van ondoorzichtigheid op zich ondoorzichtig is. Ik weet nog dat we vroeger dachten dat het internet een transparante samenleving zou opleveren, maar het tegenovergestelde is gebeurd.
Argument zeven: sociale media maken je ongelukkig
De vrolijke
retoriek van de Bummer-bedrijven draait helemaal om vrienden maken en
meer onderlinge verbondenheid in de wereld. En toch laat de
wetenschap ons iets anders zien. Onderzoek toont ons een wereld
waarin de onderlinge verbondenheid niet is toegenomen, maar waar
juist een groter gevoel van isolement heerst. Het patroon is zo
duidelijk geworden dat zelfs onderzoek dat wordt gepubliceerd door
sociale-mediabedrijven aantoont dat ze je verdrietig maken.
Facebook-onderzoekers schepten zo ongeveer op over het feit dat ze
mensen ongelukkig konden maken zonder dat ze beseften waarom.
Waarom zou je zoiets naar buiten brengen als een geweldig onderzoeksresultaat? Zou dat niet schadelijk zijn voor het imago van Facebook? De reden zou kunnen zijn dat het geweldige publiciteit was waarmee ze hun echte klanten konden bereiken, degenen die betalen om te manipuleren. Degene die wordt gemanipuleerd, jij, is het product, niet de klant.
Meer recentelijk hebben Facebook-onderzoekers eindelijk toegegeven wat andere onderzoekers al hadden ontdekt: dat hun producten echte schade kunnen berokkenen. Wat me vooral dwarszit aan de manier waarop sociale-mediabedrijven over dit probleem praten, is dat ze zeggen: ‘Ja, we maken je ongelukkig, maar we doen meer goed dan kwaad in de wereld.’ Maar de goede dingen waar ze vervolgens over opscheppen zijn allemaal dingen die intrinsiek bij internet horen, die – voor zover we weten – ook mogelijk zouden zijn zonder de slechte dingen, zonder Bummer. Ja, natuurlijk is het geweldig dat mensen met elkaar worden verbonden, maar waarom moeten ze manipulatie door derden accepteren als prijs voor die verbinding? Wat als de manipulatie en niet de verbinding het echte probleem is?
Aangezien de kernstrategie van het Bummer-businessmodel inhoudt dat het systeem zich automatisch aanpast om zo veel mogelijk je aandacht te trekken en aangezien negatieve emoties gemakkelijker kunnen worden opgeroepen, zal zo’n systeem er uiteraard toe neigen je een negatief gevoel te bezorgen. Maar het deelt tussen de depressies door ook schaarse lichtpuntjes uit, omdat de automatische piloot die je emoties aanstuurt tot de ontdekking komt dat het contrast tussen straffen en belonen beter werkt dan alleen straffen of belonen. Verslaving wordt geassocieerd met anhedonie, een verminderd vermogen om plezier te beleven aan allerlei dingen, behalve aan datgene waaraan men verslaafd is, en sociale-mediaverslaafden lijken geneigd te zijn tot langdurige anhedonie.
Natuurlijk word je ongelukkig van Bummer. Maar hoe gaat dat in zijn werk? De specifieke vorm van ongelukkig zijn wordt vanzelfsprekend op maat voor je gemaakt. De mensen van het Bummer-bedrijf hoeven er nooit achter te komen wat je ongelukkig heeft gemaakt. Dat is alleen aan jou, je laatste beetje privacy. Misschien maak je je zorgen omdat je niet weet of je wel zo aantrekkelijk of succesvol bent als andere mensen, al ben je op hetzelfde moment door het systeem toegerust om ergens iemand anders hetzelfde gevoel te geven.
Bummer
Bummer staat voor Jaron Lanier voor Behaviors of Users Modified, and Made into an Empire for Rent (Gemodificeerd Gebruikersgedrag tot Verhuurbaar Imperium Gemaakt). Een Bummer is een statistiekmachine die in de automatiseringsclouds huist. Lanier schrijft erover: ‘Kort samengevat: verschijnselen die statistisch en vaag zijn, zijn desalniettemin reëel. In het gunstigste geval kunnen Bummer-algoritmen de kans berekenen dat iemand zich op een bepaalde manier zal gedragen. Maar wat voor afzonderlijke individuen niet meer dan een kans is, is als gemiddelde voor grotere groepen mensen vrijwel een zekerheid. De populatie als geheel kan met grotere voorspelbaarheid worden beïnvloed dan een enkele persoon.’
Bummer is een machine met zes bewegende onderdelen.
Lanier geeft het volgende ezelsbruggetje om ze te onthouden:
A staat voor Aandacht trekken, iets wat leidt tot de suprematie
van de asocialen.
B staat voor Bemoeienis met ieders leven.
C
staat voor Content door de strot duwen.
D staat voor Dirigeren van
menselijk gedrag op de meest slinkse wijze.
E staat voor
Economisch gewin doordat de grootste asocialen zich kunnen uitleven
op alle andere mensen.
F staat voor Fakegroepen en een
fakesamenleving.
Bummer-algoritmen moeten je wel in categorieën stoppen en rangschikken om überhaupt iets Bummer-achtigs te kunnen doen. Het hele doel van Bummer is van jou en veranderingen in je gedrag een product te maken. De algoritmen werken in feite ten dienste van platformeigenaren en adverteerders die een abstractie van jou nodig hebben om je te kunnen manipuleren.
De Bummer-algoritmen achter bedrijven als Facebook en Google liggen opgeslagen in enkele van de weinige bestanden ter wereld die niet kunnen worden gehackt, zó geheim zijn ze. De diepste geheimen van de nsa en de cia zijn uitgelekt, meer dan eens, maar je zult geen kopie van het zoekalgoritme van Google of het feedalgoritme van Facebook vinden op het darkweb.
Een van de redenen hiervoor is dat mensen gealarmeerd zouden zijn als ze konden zien hoe de huidige kunstmatige intelligentie en andere aanbeden cloudprogramma’s echt werken. Ze zouden beseffen hoe arbitrair de resultaten soms zijn. De algoritmen zijn slechts in zeer geringe mate statistisch bruikbaar en toch heeft die minieme bruikbaarheid de grootste kapitalen ooit opgeleverd. Maar het gaat mij niet eens om de programma’s, hoe over-aanbeden die ook zijn, maar om de machtsrelaties die ontstaan als mensen de programma’s accepteren en impliciet respecteren.
Er zijn altijd aanmatigende – ronduit belachelijke – bronnen van informatie en meningen over je geweest, maar die waren niet zo belangrijk. Een voorbeeld hiervan zijn ouderwetse horoscopen in kranten. Een bedrijf kon op geen enkele manier je clicks of je oogbewegingen registreren, dus wist niemand wat je las. Misschien geloofde je echt in astrologie, misschien vond je het interessant als iemand in het wilde weg van alles over je zei of misschien vond je het allemaal wel een grote grap. Dat doet er niet toe. Het was iets tussen jou en een onbezield object – en misschien een enkele persoon die je erover vertelde. De horoscoop in de krant deed behalve in jouw hoofd helemaal niets; hij beïnvloedde op geen enkele manier de machtsrelaties tussen jou en andere mensen.
In het Bummer-tijdperk liggen de dingen anders. Facebook brengt je bijvoorbeeld onder in categorieën op basis van je politieke voorkeur en allerlei andere criteria. Deze categorieën vormen het Bummer-antwoord op horoscopen. De beoordeling van het Bummer-algoritme dat je classificeert, hoeft in wetenschappelijk opzicht niet logisch of betrouwbaar te zijn, maar in het echte leven is het zeker belangrijk. Het beïnvloedt welk nieuws je te zien krijgt, wie er aan je wordt voorgesteld als potentiële date, welke producten je aangeboden krijgt. Beoordelingen op basis van sociale media kunnen bepalen welke leningen je kunt krijgen, welke landen je kunt bezoeken, of je een baan krijgt of niet, welk onderwijs je kunt krijgen, het resultaat van je verzekeringsclaim en je vrijheid om met andere mensen samen te komen. (In veel van deze voorbeelden passen derden hun eigen algoritmen toe op Bummer-data in plaats van te vertrouwen op de categorieën die direct door Bummer-bedrijven zijn gevormd.) Je grillen en eigenaardigheden liggen voor het eerst onder de microscoop van machten die groter zijn dan jij, tenzij je in een politiestaat als Oost-Duitsland of Noord-Korea hebt gewoond.
De onmogelijkheid een ruimte te scheppen waarin je jezelf onbespied opnieuw kunt uitvinden, dáár word ik ongelukkig van. Hoe kun je nog gevoel voor eigenwaarde hebben als dat niet langer de belangrijkste waarde is? Hoe kun je nog authentiek zijn als alles wat je leest, zegt of doet wordt ingevoerd in een beoordelingssysteem?
Voor de duidelijkheid, er vinden beoordelingen plaats op twee niveaus in de Bummer-machine. Het ene is begrijpelijk en kan worden gezien door mensen. Het internet staat op dit moment vol met meningen over jou persoonlijk. Hoeveel vrienden, volgers heb je? Ben je populair? Hoeveel punten heb je verdiend? Heb je een virtueel lintje verdiend of misschien wat virtuele confetti van een winkel omdat je anderen hebt overgehaald om iets bij die winkel te kopen? Het andere beoordelingsniveau is gebaseerd op wiskundige correlaties die mensen mogelijk nooit te zien krijgen of kunnen interpreteren. Deze worden soms tussenlaaginterpretaties genoemd vanwege de manier waarop ze worden gegenereerd in algoritmen voor machine learning. Ze worden gebruikt om de gewiekstheid van Bummer te optimaliseren: welke advertenties maken de meeste kans een bepaalde uitwerking op je te hebben, welk nieuws, welke schattige kattenplaatjes als onderdeel van de feed met nieuws die je van familieleden krijgt?
Waar het ook precies om gaat, kijk eens wat er gebeurt. Plotseling worden jij en andere mensen aan allerlei stomme wedstrijdjes gekoppeld waar niemand om gevraagd heeft. Waarom krijg je niet evenveel coole foto’s als je vriend(in)? Waarom word je niet zoveel gevolgd? Dit voortdurende oproepen van sociale angst maakt dat mensen zich steeds verder ingraven. Diepgaande mechanismen in de sociale delen van onze hersenen controleren onze sociale positie en vervullen ons van doodsangst bij de gedachte te worden verlaten, als een achterblijver op de savanne die aan de roofdieren wordt geofferd.
Maar zolang je in Bummer blijft hangen, kun je er niet aan ontsnappen. Er worden wel een miljoen Bummer-spelletjes tegelijk gespeeld en je verliest ze vrijwel allemaal, omdat je tegen de rest van de planeet speelt. De vraag wie er wint is grotendeels gebaseerd op willekeur. Het is alsof er, in plaats van één voetbalwedstrijd tegelijk, altijd een mondiale wedstrijd aan de gang is waaraan de hele wereld deelneemt en waarin iedereen tegen iedereen speelt en de meesten van ons voortdurend verliezen. Wat een rotsport. Erger nog, er zijn een paar mensen, Silicon Valley-mensen zoals ik, die op je neerkijken, meer zien dan jij of je vrienden, en die je manipuleren.
Tien argumenten om je sociale-media-accounts nu meteen te verwijderen
Het nieuwe boek van Jaron Lanier, Tien argumenten om je sociale-media-accounts nu meteen te verwijderen, waarvan de Nederlandse vertaling net is verschenen (AtlasContact, 192 blz., €15,-, vertaling Carla Zijlemaker), is een eigenzinnige mix tussen pamflet en zelfhulpboek. Hij behandelt argumenten als ‘je verliest je vrije wil’, ‘door sociale media word je asociaal’ en ‘sociale media maken politiek bedrijven onmogelijk’. Deze voorpublicatie bestaat uit ingekorte versies van de argumenten 6 en 7.
Uber, dat een pseudo-Bummer is, noemde het vermogen om mensen te bespioneren de ‘blik van God’. Vanuit het verbazingwekkende goddelijke perspectief van Silicon Valley kunnen zowel mensen als algoritmen altijd zien wie wat geschreven heeft en wanneer. We kunnen het hele proces overzien alsof we naar een mierenkolonie kijken. En de mieren weten het; ze weten dat ze worden bekeken.
En ik herinner je er nog maar even aan dat negatieve emoties sneller worden getriggerd dan positieve. Als gewone mensen volkomen gelukkig en tevreden waren, zouden ze even afstand nemen van de obsessie met sociale-mediacijfers en een beetje met planten gaan rommelen of elkaar wat echte aandacht geven. Maar als ze nerveus zijn over de vraag of ze wel populair genoeg zijn, zich afvragen of de wereld niet implodeert of laaiend zijn op idioten die zich tussen hun contacten met vrienden en familie hebben gewurmd, dan moeten ze wel online blijven. Ze zijn verslaafd omdat hun natuurlijke waakzaamheid geprikkeld wordt.
Wij hier in Silicon Valley vinden het heerlijk om te kijken hoe de mieren steeds dieper in hun eigen vuil graven. Ze sturen ons geld terwijl we toekijken. Die scheve machtsverhouding is de hele tijd voelbaar. Voel je je niet vernederd als je een van de Facebook-merken gebruikt, zoals Instagram of WhatsApp? Facebook is het eerste beursgenoteerde bedrijf dat in handen is van één persoon. Nu heb ik persoonlijk niets tegen Mark Zuckerberg, daar gaat het niet om. Maar waarom zou je een groot deel van je leven ondergeschikt maken aan welke onbekende dan ook?
In de tijd waarin ik opgroeide waren er grote politici, rijken der aarde, popsterren, captains of industry enzovoort, maar geen van hen had substantiële macht over de manier waarop ik mijn leven leidde. Ze hadden soms wel invloed op me als ze iets zeiden wat mijn aandacht trok, maar dat was alles. Ze bleven ver verwijderd van mijn privéleven. Je zult misschien zeggen dat je het niet erg vindt, terwijl je eigenlijk diep van binnen wel weet dat dat niet waar is. Of dat het geen zin heeft om er boos over te worden omdat je er toch niets aan kunt doen, maar dat kan wel. Verwijder je accounts.
*
Enkele gerelateerde artikelen op Groene.nl:
In medias res
We zijn allemaal verhalenvertellers geworden. Performers van ons eigen zelf
Joost de Vries, 19 september 2018
Jaron Lanier, humanist in de digitale wereld
‘Kind’ van Silicon Valley over ons ongeluk door sociale media
Mars van Grunsven, 1 augustus 2018
De humanist van Silicon Valley
Techfilosoof Jaron Lanier: ‘Sociale media maken je ongelukkig’
Jaron Lanier, 1 augustus 2018
woensdag 27 december 2017
OOK APPLE LICHT DE BOEL OP / OUDERE iPHONES LANGZAMER ALS NIEUW MODEL IN DE WINKEL LIGT
 |
| Afb. van de NYT.origineel artikel -met tips!- --- Hier --- |
Het originele artikel van de Volkskrant, en daar nog veel meer over onderwerpen zoals deze: --- Hier ---
Apple geeft toe: oudere iPhones worden opzettelijk vertraagd
Maar met een goede reden
artikelWie een iPhone 6
of 7 heeft, kan het zijn opgevallen: na een update naar een nieuwe
versie van besturingssysteem iOS presteert het apparaat ineens een stuk
minder. Dat doet Apple bewust. Maar met een goede reden.
 |
| Grafiek overgenomen van 'dailymail.co.uk/sciencetech/' Art: --- Hier --- |
Een nieuwe onafhankelijke test gooide een paar dagen geleden olie op het vuur. Hieruit bleek in hoeverre de prestaties van oudere Apple-toestellen werden teruggedraaid met de komst van nieuwe versies van Apple's besturingssysteem voor zijn mobieltjes. De harde cijfers voeden het gevoel van bezitters van bijvoorbeeld een iPhone 6: na een update naar een nieuw versie van Apple's iOS presteert het apparaat ineens een stuk minder. Dat doet Apple bewust. Maar met een goede reden.
Controverse
Apple heeft normaliter zo zijn eigen pr-plan, maar dit keer voelde het bedrijf zich genoodzaakt te Tegenover Techcrunch
geeft de fabrikant toe dat hij maatregelen heeft genomen bij de iPhone
6, iPhone 6s en iPhone SE, met als resultaat dat deze inderdaad
tijdelijk minder kunnen presteren. Dezelfde maatregelen zijn bij de
komst van iOS 11.2 genomen voor de iPhone 7.
De verklaring hiervoor is dat deze oudere toestellen zich onverwacht kunnen uitschakelen wanneer er ineens veel van ze gevergd wordt in combinatie met een niet-volle batterij. Een ontwerpfout dus. Om dit te voorkomen, schroeft Apple de processorkracht automatisch terug. Dit verschijnsel treedt vooral op bij oudere batterijen, waarvan de prestaties per definitie in de loop der maanden teruglopen. Het is te vergelijken met de automobilist die tijdelijk langzamer rijdt omdat zijn tank bijna leeg is. Met het verschil dat Apple dit proces automatisch uitvoert.
De verklaring hiervoor is dat deze oudere toestellen zich onverwacht kunnen uitschakelen wanneer er ineens veel van ze gevergd wordt in combinatie met een niet-volle batterij. Een ontwerpfout dus. Om dit te voorkomen, schroeft Apple de processorkracht automatisch terug. Dit verschijnsel treedt vooral op bij oudere batterijen, waarvan de prestaties per definitie in de loop der maanden teruglopen. Het is te vergelijken met de automobilist die tijdelijk langzamer rijdt omdat zijn tank bijna leeg is. Met het verschil dat Apple dit proces automatisch uitvoert.
 |
Apple zet een software-update in om een hardware-probleem aan te pakken. Dat is nogal wat,
Het zou netter zijn geweest als Apple zijn klanten kosteloos een échte oplossing zou hebben geboden in de vorm van een nieuwe batterij, vindt de bond. 'Je betaalt de hoofdprijs voor een nieuwe iPhone, daar mag je best wat voor terugverwachten.'
De rel doet hiermee enigszins denken aan het gedoe met een antenneprobleem bij de iPhone 4, vele jaren terug. De oplossing die Steve Jobs destijds had voor de slechte ontvangst: gewoon anders vasthouden
***
 |
| Misschien is af en toe geen 'Phone' ook wel een goed idee...(Afb. van --- Hier ---) |
zaterdag 4 februari 2017
dinsdag 26 april 2016
CITAAT NRCQ / NIEUWS / USA FBI / ONGELOFELIJK: 'De FBI heeft hackers minstens 1,4 miljoen dollar betaald voor het kraken van de iPhone ...'
CITAAT NRCq, 22-4-2016
While you were sleeping…in the US
De FBI heeft hackers minstens 1,4 miljoen dollar betaald voor het kraken van de iPhone van de San Bernardino-schutter, meldt The Financial Times. En er stond niet eens bruikbare informatie op.
dinsdag 9 februari 2016
POLITIEK / OVERHEID / ICT RAMPEN / ARROGANTIE / DOMHEID / VVD TROUW OPINIE: 'Waarom duwt de fiscus - 'Kwiebes' - burgers een digitale aangifte door de strot?'
Ik mag die 'Kwiebes' (Staatssecretaris Wiebes van Financien) wel, maar het zo snel doordrukken van het 'Verdwijnen van de Blauwe Envelop' daar snap ik dus helemaal niets van. Niet zozeer om mezelf, maar wel om mijn oude moeder van 84, en velen zoals zij...
Het zal wel weer eeen combinatie van 'ICT-Overmoed' en de Nationale Ziekte van Nederland - 'Efficiency-verslaving' - zijn.
Als maar niet, ook weer een ICT-invoerings-ramp wordt...
Patrick van Schie - VVD-Teldersstichting; nu doe ik het alweer, iets delen van een VVD'er... - schreef er het onderstaande over in Trouw:
Het zal wel weer eeen combinatie van 'ICT-Overmoed' en de Nationale Ziekte van Nederland - 'Efficiency-verslaving' - zijn.
Als maar niet, ook weer een ICT-invoerings-ramp wordt...
Patrick van Schie - VVD-Teldersstichting; nu doe ik het alweer, iets delen van een VVD'er... - schreef er het onderstaande over in Trouw:
Waarom duwt de fiscus burgers een digitale aangifte door de strot?
Abonneren op:
Posts (Atom)
Posts
