EconomieTech

Ontmaskering nepnieuws is nog niet aan machines besteed

Machines hebben weinig talent om nepnieuws van ware berichtgeving te onderscheiden. Dat blijkt uit een studie van wetenschappers aan het Massachusetts Institute of Technology (MIT) en de Cornell University in de Verenigde Staten en de Tel Aviv University in Israël. De onderzoekers merken op dat de gebruikte artificiële intelligentie nochtans perfect uitvoert waarvoor de technologie is opgeleid. 

Het is volgens de wetenschappers daarentegen echter verkeerd om te verwachten dat hierdoor ook nepnieuws zou kunnen worden ontmaskerd.

Handtekening

“Partijen die verwachten dat machine learning in staat zal zijn om een halt toe te roepen aan de epidemie van nepnieuws dat zich over het internet uitspreidt, zullen bedrogen uitkomen,’ benadrukt onderzoeksleider Tal Schuster, computerwetenschapper aan het Massachusetts Institute of Technology.

“Machines zijn uitstekend uitgerust om teksten te identificeren die door andere machines zijn vervaardigd. Daarentegen is de technologie niet bijzonder onderlegd om een onderscheid tussen ware en valse uitspraken te doen.’

Wetenschappers aan het Allen Institute of Machine Learning toonden vorig jaar al aan dat hun platform Grover in staat was om te achterhalen welke teksten door automatische systemen waren samengesteld. Dergelijke systemen hanteren immers een methode die als een handtekening kan worden beschouwd.

Automatische systemen tonen immers een woordgebruik dat minder inventief is dan de menselijke taal. Op basis van die handtekening – de herkenning van een structureel eenvoudig taalgebruik – was Grover in staat exact te bepalen welke teksten door machines waren vervaardigd.

Persbureaus

‘Dat wil echter niet zeggen dat het platform ook automatisch in staat zou zijn teksten met valse informatie te identificeren,’ zeggen de onderzoekers nog. ‘Om die conclusie te kunnen trekken, zou men moeten aannemen dat alle teksten van machines onwaar zijn en alle berichten van menselijke bronnen waarheid zouden zijn.’

‘Dat is echter niet het geval. Steeds vaker worden immers automatische systemen ingezet om informatie in een eenvoudige berichtgeving te gieten. Dat systeem wordt onder meer door persbureaus gebruikt om legitieme nieuwsberichten te publiceren. Dezelfde technologie kan echter ook nepnieuws vervaardigen.’

‘Met de huidige mogelijkheden zijn machines dan ook niet geschikt om valse berichtgeving op te sporen,’ besluiten de onderzoekers.

Tags
Show More

Express wordt Business AM

Close
Close