Federale verkiesing 2021: waarom ons nie altyd 'goeie' politieke bots moet vertrou nie

Dit is 'n instrument wat tweets outomaties ontleed om teistering en toksisiteit wat op politieke kandidate gerig is, te evalueer. Ons weet min oor hoe hierdie gereedskap werk, maar ons vertrou dit grootliks omdat dit deur onpartydige spelers gebruik word.


Verteenwoordigende beeld Beeldkrediet: ANI
  • Land:
  • Kanada

Tydens die federale verkiesingsveldtog van 2019 het kommer oor buitelandse inmenging en eng 'Russiese bots' die gesprek oorheers. Daarteenoor word nuwe politieke bots gedurende die verkiesingsiklus van 2021 opgemerk vir hul potensieel nuttige bydraes.

Van die opsporing van aanlyn -toksisiteit tot die vervanging van tradisionele meningspeilings, eksperimenteer politieke bot -skeppers met kunsmatige intelligensie (AI) om die ontleding van sosiale media -data te outomatiseer. Hierdie soort politieke bots kan omskryf word as 'goeie' gebruike van AI, maar selfs al kan dit nuttig wees, moet ons krities wees.

Die gevalle van SAMBot en Polly kan ons help om te verstaan ​​wat ons van mense kan verwag en eis wanneer hulle besluit om AI in hul politieke aktiwiteite te gebruik.



SAMbot is geskep deurAreto Labs in vennootskap met die Samara -sentrum vir demokrasie. Dit is 'n hulpmiddel wat tweets outomaties ontleed om teistering en toksisiteit wat op politieke kandidate gerig is, te bepaal.

Advanced Symbolics Inc. het 'n instrument genaamd Polly gebruik om data op sosiale media te ontleed en te voorspel wie die verkiesing gaan wen.

Albei kry media -aandag en het 'n impak op die verkiesingsdekking.

Ons weet min oor hoe hierdie gereedskap werk, maar ons vertrou dit grootliks omdat dit deur nie-partydige spelers gebruik word. Maar hierdie bots stel die verhoog en standaarde vir hoe hierdie soort AI vorentoe gebruik sal word.

Mense maak bots Dit is aanloklik om aan SAMbot te dink of Polly as vriende, om ons te help om die verwarrende gemors van politieke geklets op sosiale media te verstaan. Samara, Areto Labs , en Advanced Symbolics Inc. almal bevorder die dinge wat hul bots doen, al die data wat hul bots ontleed het en al die bevindinge wat hul bots opgetel het.

SAMbot word uitgebeeld as 'n pragtige robot met groot oë, vyf vingers aan elke hand en 'n naamplaatjie.

Polly is verpersoonlik as 'n vrou. Hierdie bots is egter steeds gereedskap wat vereis dat mense gebruik word. Mense besluit watter data hulle moet insamel, watter soort analise gepas is, en hoe om die resultate te interpreteer.

Maar as ons verpersoonlik, loop ons die risiko om die agentskap en verantwoordelikheid uit die oog te verloor wat bot -skeppers en botgebruikers het. Ons moet aan hierdie bots dink as hulpmiddels wat mense gebruik.

Die black box-benadering is gevaarlik. AI is 'n algemene sin vir 'n wye reeks tegnologie, en die tegnieke ontwikkel. Die verduideliking van die proses is 'n uitdaging, selfs in lang akademiese artikels, en dit is dus nie verbasend dat die meeste politieke botte min inligting kry oor hoe dit werk nie.

Bots is swart bokse - wat beteken dat hul insette en bedrywighede nie sigbaar is vir gebruikers of ander belangstellendes nie - en op die oomblik stel bot -skeppers meestal net voor: 'Dit doen wat ons wil, vertrou ons.' Die probleem is dat wat in hierdie swart bokse aangaan, baie uiteenlopend en morsig kan wees, en klein keuses kan groot klopeffekte hê. Byvoorbeeld, Jigsaw (Google) se Perspective API - wat daarop gemik is om toksisiteit te identifiseer - berug en onbedoeld rassistiese en homofobiese neigings in hul hulpmiddel ingebed het.

Jigsaw het die probleme eers ontdek en reggestel sodra mense vrae begin vra het oor onverwagte resultate.

Ons moet 'n basiese stel vrae stel om te vra wanneer ons nuwe politieke bots sien. Ons moet digitale geletterdheidsvaardighede ontwikkel, sodat ons die inligting wat op ons skerms verskyn, kan bevraagteken.

Sommige van die vrae wat ons moet vra Watter data word gebruik? Verteenwoordig dit werklik die bevolking wat ons dink dit doen? SAMbot word slegs toegepas op tweets waarin huidige kandidate genoem word, en ons weet dat bekendere politici waarskynlik hoër vlakke van negatiwiteit sal veroorsaak. TheSAMbot webwerf maak dit duidelik, maar die meeste mediadekking van hul weeklikse verslae gedurende hierdie verkiesingsiklus mis hierdie punt.

Polly word gebruik om sosiale media -inhoud te ontleed. Maar hierdie data is nie verteenwoordigend van alle Kanadese nie. Advanced Symbolics Inc. werk hard daaraan om die algemene bevolking van Kanadese te weerspieël in hul ontleding, maar die bevolking wat eenvoudig nooit op sosiale media plaas nie, word steeds vermis. Dit beteken dat daar 'n onvermydelike vooroordeel is wat uitdruklik erken moet word sodat ons die bevindings kan plaas en interpreteer.

Hoe is die bot opgelei om die data te ontleed? Is daar gereelde kontrole om seker te maak dat die analise steeds doen wat die skeppers aanvanklik bedoel het? Elke politieke bot kan baie anders ontwerp word. Soek 'n duidelike verduideliking van wat gedoen is en hoe die bot -skeppers of gebruikers kontroleer om seker te maak dat hul outomatiese instrument in werklikheid op die doel (geldigheid) en konsekwent (betroubaarheid) is.

Die opleidingsprosesse om beideSAMbot te ontwikkel en Polly word nie breedvoerig op hul onderskeie webwerwe verduidelik nie. Metodesdata is by dieSAMbot gevoeg webwerf gedurende die verkiesingsveldtog in 2021, maar dit is steeds beperk. In beide gevalle kan u 'n skakel vind na 'n eweknie-geëvalueerde akademiese artikel wat 'n deel van hul benaderings, maar nie almal nie, verduidelik.

Alhoewel dit 'n begin is, kan die koppeling met dikwels komplekse akademiese artikels dit eintlik moeilik maak om die instrument te verstaan. In plaas daarvan help eenvoudige taal.

Bykomende vrae om na te dink: Hoe weet ons wat as 'giftig' beskou word? Kontroleer mense die resultate om seker te maak dat hulle nog steeds op die teiken is? Volgende stappe SAMbot en Polly is gereedskap wat deur nie-partydige entiteite geskep is, sonder om daarin belang te stel om disinformasie te skep, verwarring te saai of te beïnvloed wie die verkiesing Maandag wen. Maar dieselfde gereedskap kan vir baie verskillende doeleindes gebruik word. Ons moet weet hoe ons hierdie bots kan identifiseer en kritiseer.

Elke keer as 'n politieke bot, of inderdaad enige soort AI in die politiek gebruik word, is inligting oor hoe dit geskep en getoets is noodsaaklik.

Dit is belangrik dat ons vroegtydig verwagtinge stel vir deursigtigheid en duidelikheid. Dit sal almal help om beter digitale geletterdheidsvaardighede te ontwikkel en ons in staat stel om te onderskei tussen betroubare en onbetroubare gebruike van hierdie soort gereedskap.

(Hierdie storie is nie deur Top News-personeel geredigeer nie en word outomaties gegenereer uit 'n gesindikeerde voer.)