Kritiek op een politiealgoritme, een rechtszaak tegen de nieuwe app van het KNMI, hoe je kunt starten op Mastodon, een nieuwe versie van Drupal, over digitale opvoeding, SIDN die toch niet alle infrastructuur naar AWS mag uitbesteden, het monopolie op mailservers en … nog veel meer.
Een eclectische lijst artikelen heb ik bij elkaar gesprokkeld voor deze editie.
Leesze!
Elmine
(P.S.: mocht je betaalmuren tegenkomen tussen de links, deze website kan je helpen die artikelen zonder abonnement te lezen)
Een algoritme om te voorspellen of een kind strenger gevolgd moet worden. Wat kan er misgaan?
Follow the Money (FTM) publiceerde een artikel over een algoritme genaamd Preselect, die de kans op recidive bij minderjarigen zou voorspellen. Ik werd boos bij het lezen van het stuk (dat in principe alleen voor abonnees is te lezen, maar op nu.nl staat een korte samenvatting.).
Joran van Apeldoorn (Bits of Freedom) is in de documenten gedoken die ze via de Woo in handen kregen. Hij concludeerde:
het algoritme levert vaak een valspositieve score op. Een op de drie kinderen die geen recidive zullen plegen, krijgt onterecht een ‘middenscore’ of ‘hoge score’.
De analyse van Van Apeldoorn heeft FTM vervolgens voorgelegd aan experts. Een paar opvallende dingen in de reflectie van de experts:
‘Het algoritme doet het dan maar iets beter dan een willekeurige worp (van een dobbelsteen).’
Het algoritme voorspelt nauwelijks beter dan de gooi van een dobbelsteen.
bepaalde groepen – 12-jarigen, meisjes en jongeren die voor het eerst in aanraking komen met de politie – zijn maar in kleine aantallen in deze ‘trainingsdata’ vertegenwoordigd.
Het algoritme is volgens FTM getraind met de gegevens van 5000 jongeren die ooit verdacht zijn van een strafbaar feit. Eigenlijk zouden dan alle alarmbellen af moeten gaan. Dat is namelijk best wel weinig data. En dan zit er ook een andere blikvernauwing in, want het is alleen gebaseerd op politiedata:
Het instrument weegt alleen geregistreerde criminaliteit mee. Maar we weten dat dit niet een representatief beeld is van de criminaliteit die er is. Als de politie vaak een bepaald type jongens aanhoudt, heeft dat invloed.
En ook:
Politiegegevens zijn niet altijd zuivere data. Een agent heeft veel vrijheid om te bepalen wat er in het systeem terechtkomt. Daar is geen controle op. Er zit dus mogelijk interpretatie in
In het artikel wordt ook een voorbeeld genoemd waar een gemeente het instrument inzet op een oneigenlijke manier. Jeugdadvocaten die FTM sprak kennen dit algoritme helemaal niet en het staat ook niet in het algoritmeregister. Meer dan genoeg kritiek om te bepalen dat dit instrument de deur uit moet, lijkt mij.
Het ministerie heeft wel overwogen Preselect buiten gebruik te stellen, naar aanleiding van kritiek van onderzoekers van de UvA in 2023, maar ja:
Toch heeft het geen plannen om te onderzoeken of het algoritme in de afgelopen tien jaar jongeren mogelijk onevenredig heeft getroffen.
Ze zeggen wel te werken aan verbetering in de komende maanden. Ik geloof niet dat een dergelijk algoritme te verbeteren is. Te weinig data, te veel bias.
Signal, biedt het meer privacy dan Whatsapp?
Iedereen met een beetje kennis van cybersecurity viel zo ongeveer van de stoel toen veiligheidsdiensten in de VS opriepen Signal te gebruiken in plaats van andere apps. Waarom is Signal vanuit privacy oogpunt beter? Het gaat met name om de E2E (end-to-end) encryptie. En dan niet alleen van de inhoud van de berichten, maar ook van de metadata. Gelukkig zijn er mensen die er tijd in stoppen deze vergelijking te maken en op te schrijven. Zoals Bruce Schneier. En ja, het is een Amerikaanse app, en ja, ook daar zitten risico’s aan, maar op dit moment heb ik meer vertrouwen in Signal dan in andere toepassingen die niet zijn ingericht op bruikbaarheid op zeer grote schaal.
Stichting Bescherming Privacybelangen (SBP) ontvankelijk verklaard in de collectieve rechtszaak tegen Google
De rechtbank heeft geoordeeld dat SBP de belangen van Nederlandse Google-gebruikers in de procedure goed kan waarborgen. De rechtbank benadrukte verder dat een collectieve schadevergoedingsactie efficiënt en voordelig is voor alle partijen, omdat daarmee kan worden volstaan met één procedure. (bron: Consumentenbond)
Goed nieuws. De collectieve actie tegen Google kan dus door naar de volgende fase.
Apple stopt voorlopig met de AI nieuwssamenvattingen
Het leidde tot grote ophef onder nieuwssites, de AI gegenereerde samenvattingen van nieuwssamenvattingen. De samenvatting van de samenvatting leverde schadelijke onzin op. (zie editie #7) Apple stopt voorlopig met deze ‘dienst’ en werkt aan verbetering. Ik hoop zelf dat ze er achter komen dat dergelijke service nooit gaat werken. Maar goed, ik ben dan ook een LLM-scepticus.
Een nieuwe Anne Frank chatbot, wat kan er misgaan?
SchoolAI heeft blijkbaar een chatbot van Anne Frank gemaakt, en historicus Henrik Schönemann werd woest toen hij ‘Anne’ ging testen. De drie updates/draadjes met screenshots die hij deelde: 1, 2, 3
Ook verscheen dit artikel over zijn bevindingen.
Overigens heeft de Anne Frank stichting al in 2017 zelf een bot geïntroduceerd. Weet iemand of die nog in gebruik is?
Het boosheidsalgoritme, op herhaling
Michel van Baal, SpaceCowboy en tegenwoordig Hoofd Communicatie bij de overheid, deelde nog maar weer eens zijn artikel over het boosheidsalgoritme. Geschreven in 2022, maar nog steeds relevant om te lezen en naar te handelen.
Maar laten we ook meteen vol inzetten op decentrale netwerken
it is urgent to build and mainstream alternative, decentralized social media platforms that are resistant to government censorship and control, are not owned by oligarchs and dominated by their algorithms, and in which users own their follower list and can port it elsewhere easily and without restriction.
En voila, ook forumsoftware NodeBB integreert ActivityPub
Lees de update van Julian Lam over de nieuwste versie van NodeBB. Overigens is de integratie met fediverse mogelijk gemaakt door financiering van NLNet. Yay!
Drupal lanceert een nieuwe versie, Drupal CMS 1.0
Huh? Drupal zat toch al op versie 11? Hoezo zijn ze nu terug naar versie 1.0? Aha! Het is een totaal nieuwe versie van Drupal. Nou gebruik ik Drupal zelf al heel lang niet meer. Het werd me te groots voor de simpele blogs en WordPress lag me beter. Blijkbaar zag Dries Buytaert, oprichter en project lead van Drupal, ook dat er behoefte was aan een simpelere versie.
Eight months ago, I challenged our community to make Drupal easier for marketers, content creators, and site builders.
In dit artikel kondigt Dries CMS 1.0 aan en gaat ‘ie dieper in op deze versie van Drupal, dit is alvast de omschrijving ervan:
Drupal CMS is a ready-to-use platform for marketing teams, content creators and site builders built on Drupal 11 core. When you install Drupal CMS, you get a set of out-of-the-box tools such as advanced media management, SEO tools, AI-driven website building, consent management, analytics, search, automatic updates and more.
Nou zit ik niet persé te wachten op SEO tools en AI-driven website building, maar met de ophef rondom de oprichter van WordPress (zie editie 4 en editie 7 voor meer context) is het goed om alternatieven te scouten. Ik wil zeker even met dit CMS gaan experimenteren.
Hoe start je op Mastodon?
Sandra de Jong publiceerde vorige week een goede uitleg over hoe je je netwerk kunt opbouwen op Mastodon met veel tips die ik zelf ook zou geven.
Ik zag starten op Mastodon vooral als een nieuw begin. Je kunt niet een lijstje importeren uit andere tools (Twitter heeft bijvoorbeeld API toegang tot dat soort tools volledig geblokkeerd). Ik heb zelf dus een volledig nieuw netwerk opgebouwd op Mastodon. Dat kost tijd, maar is ook heel leuk. Weg met de ballast van mensen die je misschien toch allang niet meer leuk vond. Neuzen naar de onderwerpen die ik nu interessant vind, in plaats van dee netwerken waar ik vijftien jaar geleden in dook. Het is echt weer netwerken zoals ik tussen 2005 en 2010 gewend was te doen. Mijn vrienden zaten er nog niet, dus het was juist nieuwe mensen leren kennen, mensen die ik nooit IRL ontmoette, of pas vele jaren later voor het eerst. Heerlijk. Hoe anders zal dat zijn voor jongere mensen. Zij zijn niet anders gewend dan dat al hun vrienden op dezelfde sociale netwerken actief zijn. Sociale netwerken die je algoritmisch iets aanbieden na een paar keer klikken. Ook dat ontneemt je digitale autonomie, namelijk de autonomie om zelf je netwerk samen te stellen. Gelukkig weet ik nog hoe dat moet.
Ook interessant: 1 en 2 april is de online FediForum Unconference
Als je je helemaal wilt onderdompelen in de community van Fediversebouwers en enthousiastelingen, meld je dan aan voor dit online event.
SIDN mag niet zomaar alles naar de cloud verplaatsen
Er was een hoop ophef over de verplaatsing van de infrastructuur van SIDN, de organisatie die de registratie van .nl domeinen verzorgt, naar door Amerikaanse bedrijven beheerde servers. SIDN is aangemerkt als een essentiële dienst waardoor de dienst valt onder wettelijk toezicht van de RDI (Rijksinspectie Digitale Infrastructuur). Het is daarom logisch dat de verhuizing naar servers van Amazon ophef veroorzaakte.
Inmiddels zijn er nieuwe ontwikkelingen, omdat er door te Tweede Kamer om opheldering is gevraagd bij de minister. Deze kamerbrief werd vorige week in de Tweede Kamer gepubliceerd. In het begeleidende nieuwsbericht op de website van de Rijksoverheid staat dit:
Op basis van alle onderzoeken kan SIDN alleen een beperkter deel van dit systeem in de public cloud van AWS onder brengen dan dat zij eerder voornemens waren. SIDN heeft bovendien toegezegd de voorgestelde aanvullende maatregelen uit een risicoanalyse van de AIVD volledig toe te passen.
AWS is de cloud van Amazon. SIDN mag dus niet zomaar alles uitbesteden aan Amazon. Mijn kennis van de complexiteit van het beheer van de taken van SIDN is veel te klein. Max Roeleveld schreef in ieder geval op dat hij teleurgesteld was in dit besluit.
Het is treurig maar waar: mail is teveel geconcentreerd bij twee a drie partijen
Mail in eigen beheer, het kan wel, bewijst Nikhef met z’n eigen mailservers, maar de realiteit is ook:
Voor beheerders bij kleinere bedrijven en de meeste amateurs is een eigen mailserver geen optie meer.
Een vroegere klant van me, kleinbedrijf, heeft een ‘eigen’ mailserver, dat wil zeggen een kleine webhoster waar de mailboxen worden beheerd. Regelmatig heeft deze organisatie problemen dat verstuurde mail door hun klanten met Microsoft Outlook niet werd ontvangen. Hun mailserver werd niet vertrouwd, want eigenlijk werden alleen google en microsoft klanten vertrouwd. Qua mail zitten we dus inmiddels in een totaal afhankelijke situatie waarin twee marktspelers bepalen dat jouw mailserver heel geavanceerde beveiliging moet hebben om te kunnen mailen, wat voor een kleine organisatie zonder ICT-ers in dienst niet te organiseren is. Gelukkig is deze klant niet bereid te capituleren en zoekt naar een andere oplossing, maar ik begrijp elke kleine ondernemer die geen zin heeft in dit gedoe.
Digitaal opvoeden, het blijft een lastige balans
In De Groene stond een mooi verhaal opgetekend van een moeder die obsessief haar kind digitaal volgde. Ik heb nog geen tiener, dus hoe ik me voel en gedraag als ouder als mijn kind meer en meer fysieke afstand krijgt tot mijn leven. Onlangs had ik echter al wel een gesprekje met haar over GPS horloges. Ze is acht en veel van haar klasgenoten hebben een horloge waarmee ouders de locatie van het horloge kunnen volgen en de drager ervan kan bellen. Zelf ben ik daar op tegen. Datatechnisch, omdat ik geen idee heb wie er met de gegevens van de Chinees geproduceerde GPS-trackers aan de haal kan gaan. Opvoedkundig, omdat ik zelf moet leren omgaan met loslaten en haar echt niet hoef te volgen tussen mijn huis en dat van dochter’s vriendinnetje en dat mijn dochter de verantwoordelijkheid stap voor stap moet leren dragen dat haar vader en moeder niet overal aanwezig zijn. Interessant genoeg leek het dochter zelf wel een fijn als wij als ouders zouden kunnen zien waar ze was. Vanuit het perspectief van een bedachtzame, ietwat angstige achtjarige kan ik die reactie begrijpen. Ik ga er echter niet in mee.
Hoogleraar Loes Keijsers zegt over de tienertijd in het artikel in De Groene:
Ze geleidelijk meer verantwoordelijkheid geven, ze laten voelen dat ze beschikken over bepaalde competenties, zelf problemen kunnen oplossen, risico’s kunnen inschatten. Daar gaat de adolescentie in wezen over: voelen dat je loskomt – en kunt komen – van je ouders. ‘Die psychologische separatie, die zo belangrijk is om jezelf te worden, lijkt wat trager te gaan tegenwoordig’, zegt Keijsers. ‘De adolescentiefase duurt almaar langer. Dat ouders altijd en overal beschikbaar en bereikbaar zijn, lijkt daaraan bij te dragen.’
Hoe moeilijk ik het soms ook vind, dit sterkt mij in mijn strategie niet toe te geven aan de digitale opties.
Als we het toch over privacy in de opvoeding hebben
Hoor nogmaals de argumenten waarom ‘maar als je niets te verbergen hebt, dan heb je toch niets te vrezen?’ een valse voorstelling van het begrip privacy is: “I Have Nothing to Hide” – The Dangerous Myth About Privacy van Naomi Brockwell.
Het blijkt best lastig om GEEN AI te gebruiken in Google producten
Ik gebruik zelf al jaren Google’s producten niet meer, behalve als klanten het zelf gebruiken (en ja, daar maak ik dan altijd opmerkingen over). Nu blijkt AI je door de strot geduwd te worden. Lees mee hoe iemand die vanwege contractafspraken op geen enkele manier gebruik mag maken van LLM-AI: https://bsky.app/profile/litbowl.bsky.social/post/3lfvlw65kov24
Scrapen wat je scrapen kan, ook al mag het niet
Meta heeft, tot op het hoogste niveau (lees: MZ), bedacht dat een taalmodel trainen niet kan zonder gebruik te maken van een illegaal bijeengeschraapte, van copyright voorziene, data. Tja. Had jij anders verwacht?
Een ode aan het CC-materiaal van Omroep Almelo
Creative Commons-licenties zijn een prachtig middel om materiaal te distribueren, waarbij je mensen meer of minder toestemming geeft het materiaal te (her)gebruiken. Lees een ode aan Omroep Almelo, geschreven door Vera de Kok, een wikipediaan die veelvuldig gebruik heeft kunnen maken van het materiaal dat de omroep onder CC-licentie beschikbaar stelde.
KNMI app voor de rechter
KNMI doet het goed. Ze hebben namelijk zo’n goede app gebouwd dat commerciële weerapp bouwers KNMI aanklagen. Overigens was er deze maand een internetconsultatie, over de wijziging in wettelijke taken van het KNMI. Belangrijke wijziging is het gebruik van voorspellende radarbeelden. Als je nu in de app kijkt (installeer deze mensen!) zie je alleen radarbeelden van de afgelopen 3 uur. De toegevoegde waarde van commerciële apps is dat zij al wel vooruitkijkende radarbeelden gebruiken. Maar ja, als KNMI dat straks ook mag doen, willen mensen dan nog wel hun dataslurpende apps ten gunste van adverteerders installeren?
Ik ben benieuwd naar het vervolg.
Parels van het web:
- A rant about technology, is een korte tekst van auteur Ursula K. Le Guin in antwoord op kritiek dat in haar science fiction ‘technologie zorgvuldig wordt vermeden’. Ryan Cordell zet deze tekst in een tastbaar handgedrukt boekje om. Geweldig.
- Tom the dancing bug heeft bezoek van een slechtgetekende Kuifje.
- Dog on the moon over DeepSeek