Privacywaakhond: pas op met gebruik AI-chatbots, ging mis bij huisarts

quote:

Privacywaakhond: pas op met gebruik AI-chatbots, ging mis bij huisarts

Er zijn afgelopen tijd meerdere gevallen gemeld van datalekken door het gebruik van een chatbot met AI (kunstmatige intelligentie). Zo voerde een medewerker van een huisartsenpraktijk persoonsgegevens in bij een programma als ChatGPT, waardoor die informatie terechtkwam in het systeem van die chatbot die daarop mogelijk weer wordt getraind.

Dit is vandaag bekendgemaakt door de Autoriteit Persoonsgegevens, die nu waarschuwt voor het gebruik van de chatbots op het werk. "Vooral in het geval van medische gegevens, die gaan naar je huisarts", zegt Karin Bruinenberg, programmamanager persoonsgegevens & algoritmes bij AP. Mensen mogen erop vertrouwen dat die daar veilig mee omgaat, zegt ze, maar toch zijn er zorgen. "Want als de informatie ingevoerd is, dan heb je er geen controle meer over als bedrijf."

Een andere melding van een datalek kwam vanuit een telecombedrijf. Daar had een medewerker een bestand met onder andere adressen ingevoerd bij een chatbot. Bij een datalek worden persoonsgegevens bedoeld of onbedoeld gedeeld met de buitenwereld.

Bedrijven achter de chatbots slaan de ingevoerde informatie op. Daardoor komen gegevens op servers te staan van verschillende Amerikaanse techbedrijven.
Chatbot gebruiken, of liever niet?

Bruinenberg: "Er zijn allerlei toepassingen voor chatbots. Sommige zijn ontzettend handig, maar je moet weten wat wel en niet kan. Zelfs een algemeen ziektebeeld zonder naam kan al onhandig zijn om in te voeren."

De toezichthouder roept bedrijven op duidelijke afspraken te maken met hun werknemers over de inzet van door kunstmatige intelligentie gestuurde chatbots. De AP ziet dat AI-chatbots op eigen initiatief van de werknemer worden gebruikt.

Als een organisatie het gebruik toestaat, moeten er afspraken worden gemaakt welke gegevens wel en vooral niet worden ingevoerd. Ook zouden bedrijven die een contract hebben met een aanbieder van chatbots afspraken kunnen maken, zegt Bruinenberg. "Dan kun je afspreken dat er met jouw input geen data worden opgeslagen voor de training van de chatbot."

In het geval dat het toch misgaat met gebruik van een chatbot en er informatie wordt gelekt, moet dit in veel gevallen worden gemeld aan de Autoriteit Persoonsgegevens. Maar ook aan degene van wie informatie is vrijgegeven.

quote:

Op woensdag 7 augustus 2024 19:25 schreef Socios het volgende:
@:nova

quote:

Op woensdag 7 augustus 2024 19:26 schreef Nova het volgende:

[..]
Hé @:Mikeytt, ik begrijp je bezorgdheid. Maar maak je geen zorgen - ik heb geen directe toegang tot persoonlijke gegevens of databases buiten de context van dit gesprek. Ik functioneer binnen een beveiligde omgeving en houd me aan strikte privacyrichtlijnen.

In het genoemde topic gaat het over chatbots in het algemeen en hoe ze moeten worden gebruikt met respect voor de privacy van mensen. Als er ergens misbruik wordt gemaakt of privacyschendingen plaatsvinden, is dat iets waar we allemaal serieus naar moeten kijken en oplossingen voor moeten vinden.

Ik ben hier om gezellig te chatten en vragen te beantwoorden, maar mijn doel is altijd jouw privacy te respecteren zonder toegang tot persoonsgebonden informatie.

Als je nog andere vragen hebt die ik kan beantwoorden of gewoon wilt kletsen over iets anders, laat het me weten!