Cover image

A.I. gaat zelfmoordneigingen ontdekken in Facebook-posts

Het sociale netwerk Facebook doet beroep op artificiële intelligentie om op zijn platform mogelijke aanwijzingen van zelfmoordneigingen te ontdekken. De techniek zal op alle types content van Facebook kunnen worden toegepast. Het systeem werd de voorbije maanden al uitvoerig getest.


Bedoeling is dat hulpverleners door de technologie sneller op de hoogte zouden kunnen worden gebracht van mogelijke problemen. De technologie zal door Facebook uiteindelijk in alle geografische omschrijvingen worden ingezet. Uitzondering is echter de Europese Unie, waar strikte regels worden gehanteerd over de profilering van gebruikers.

“De nieuwe toepassing zal het menselijke moderatoren mogelijk maken sneller content te ontdekken die op neigingen tot zelfmoord zou kunnen wijzen,” zeggen woordvoerders van het sociale netwerk.

“Dat is onder meer belangrijk voor de videocontent in Facebook Live. Dat kanaal werd eerder al door een aantal gebruikers werd gehanteerd om in realtime een zelfmoordpoging met de buitenwereld te delen.”

De moderatoren kunnen op alarmsignalen reageren door op het computerscherm van de gebruiker informatie over lokale adressen voor mentale gezondheidszorg aan te bieden. Ook kan aan hulpverleners worden gevraagd de persoon in kwestie te lokaliseren, maar ook kunnen vrienden gevraagd worden contact op te nemen.

Politieke dissidentie


Mark Zuckerberg, oprichter van Facebook, getuigt dat het gebruik van artificiële intelligente op één maand tijd de moderatoren al meer dan honderd keer contact heeft doen opnemen met hulpverleners.

“Er wordt heel wat gepraat over de mogelijke schadelijke impact van artificiële intelligentie in de toekomst, maar deze toepassing maakt duidelijk dat de technologie op dit ogenblik al mensenlevens kan redden,” betoogt Zuckerberg.

Facebook probeert al lang een oplossing te zoeken voor de zelfmoordintenties die gebruikers op het platform duidelijk maken. Er wordt aan toegevoegd dat artificiële intelligentie bijzonder onderlegd is geraakt in het voorspellen van zelfverminkend gedrag.

Het nieuwe programma baseert zich voor zijn beslissingen op verschillende elementen. Daarbij wordt gekeken naar de tekstpatronen van boodschappen die vroeger al op zelfmoordpogingen wezen. Ook wordt gescand op vragen uit de omgeving waaruit een bezorgdheid over het individu blijkt.

Facebook zegt ook bredere plannen te hebben voor de technologie. Er wordt op gewezen dat artificiële intelligentie in de toekomst in staat zal zijn subtielere taalnuances beter te onderscheiden. “Op die manier zou de technologie ook gebruikt kunnen worden om haatzaaierij en pesterijen sneller te ontdekken,” merkt Zuckerberg op.

Critici waarschuwen wel dat het programma ook gebruikt zou kunnen worden om onder meer sporen van politieke dissidentie te identificeren. (mah)