Noua extensie Chrome intenționează să facă Web mai puțin toxic Aplicații Web


Jigsaw, care este deținută de compania mamă Google Alphabet, a lansat marți, Tune, o extensie experimentală Chrome, care permite utilizatorilor să ascundă comentariile pe care algoritmii le identifică drept toxice. Este disponibil pentru Mac, Windows, Linux și sistemul de operare Chrome.

Tune se bazează pe aceleași modele de învățare a mașinilor (ML) care folosesc API-ul Jigsaw Perspective pentru a evalua toxicitatea comentariilor.

Tune utilizatorii pot ajusta volumul de comentarii de la zero la nimic merge.


– faceți clic pe imagine pentru ao mări –


Tune nu este menita a fi o solutie pentru obiective directe de hartuire, sau o solutie pentru toata toxicitatea, a remarcat Jigsaw Product Manager C.J. Adams intr-un post online. Este un experiment pentru a arăta oamenilor cum tehnologia ML poate crea noi modalități de a împuternici oamenii atunci când citesc discuțiile online.

Tune funcționează doar pentru comentariile în limba engleză, pe Facebook, Twitter, YouTube, Reddit și Disqus. Comentarii în alte limbi vor fi afișate mai sus și ascunse mai jos, un prag care este predefinit.

Modelul Tune's ML este experimental, așa că încă mai lipsesc câteva comentarii toxice și ascunde incorect unele comentarii nontoxice. Dezvoltatorii au lucrat la tehnologia de bază și utilizatorii pot oferi feedback în acest instrument pentru a-și îmbunătăți algoritmii.

Teama și teamă peste ton

"Nu avem nicio idee cum să facem poliția pe Internet, așa că, în consecință, o vom transforma într-un robot", a spus Michael Jude, manager de program la Stratecast / Frost & Sullivan.

"Nu știți ce face cu datele pe care le colectează, nu știți cine a construit-o, ci renunțați la libertatea de a face propriile determinări", a declarat el pentru TechNewsWorld.

"Dacă cineva decide să folosească mijloacele de comunicare socială, cineva acceptă în mod tacit să acceseze o anumită cantitate de disidență, discurs de ură, indiferent", a subliniat Jude. "După cum a spus o dată un renumit comedian, îți plătești banii și îți iei șansele."

Cum funcționează Tune

Tune face parte din
Conversație-AI proiect de cercetare și este complet open source, astfel încât oricine poate examina codul sau poate contribui direct la acesta pe Github.

"Cu cât sunt mai granulate API-urile și cu cât sunt mai deschise controalele, cu atât dezvoltatorii mai buni pot ajusta algoritmii Conversational AI pentru a genera mai puține false pozitive și negative false", a spus Ray Wang, analist principal la Constellation Research.

Cu toate acestea, Tune va necesita o cantitate tot mai mare de date pentru ajustarea finală. Utilizatorii trebuie să se înscrie pentru a oferi acces la Perspective API.

Comentariile citite nu sunt asociate cu conturile utilizatorilor sau sunt salvate de către Tune. În schimb, aceștia sunt trimiși la API-ul Perspective pentru scoring și apoi șterși automat după ce scorul este returnat.

Există două moduri de a trimite feedback: dând clic pe Despre> Feedback, unde ID-ul de utilizator al contului este inclus în raportul de feedback; sau prin trimiterea unei corecții la modul în care este marcat un comentariu. Pentru corecții, textul comentariului și răspunsul utilizatorului sunt stocate pentru instruirea sistemului ML, însă trimiterea nu este legată de ID-ul utilizatorului.

Discursuri gratuite

Ca și în cazul încercărilor anterioare de a gestiona sau de a controla comentariile online, Tune este probabil să provoace o dezbatere despre libertatea de exprimare.

"În film Zorro, lama Gay, a spus o femeie comandantului militar al unui oraș care a încercat să o împiedice să protestă că regulile orașului erau că oricine ar putea spune orice le-a plăcut în piața orașului ", a amintit Jude.

"Femeia are dreptate!" comandantul a răspuns. "Poate să spună orice îi place. Aresta pe oricine ascultă".

Totuși, "unii par să creadă că libera exprimare înseamnă că trebuie să asculți ceea ce spun ei", a remarcat Rob Enderle, analist principal la Grupul Enderle.

"Chiar dacă acest lucru este incorect, nu își reduce convingerea că propriile lor cuvinte ar trebui să fie inviolate", a declarat el pentru TechNewsWorld.

Tehnologia Tune "reprezintă o modalitate de bună credință de a aborda o problemă reală și va învăța și se va îmbunătăți în timp", susține Doug Henschen, analist principal la Constellation Research.

"Tune pune controlul în mâinile individului", a declarat el pentru TechNewsWorld. "Comentariile sunt încă postate și, prin urmare, nu sunt limitate, dar utilizatorii aleg să nu le vadă. Asta este dreptul lor."

Cu boti și fabrici de spam care aruncă conținut fals, Tune "este răspunsul la preluarea unui anumit control pentru a permite libertatea de exprimare", a menționat Wang, constelația.

Tune "vă permite să scăpați de trolii care au o voce disproporționată", a spus el. "Aceasta va împiedica, de asemenea, oameni care au scos același conținut de mai multe ori în comentarii."

Algoritmii par a funcționa bine pentru Google pe site-urile sale care acceptă comentarii, a remarcat Wang, iar "eliberarea tehnologiei pentru alții este un prim pas bun".

Amenințarea lui Tune către mass-media socială

Mass-media socială este totul despre globulele de ochi și, cu cât este mai controversată o afirmație, cu atât mai multe ochi pe care le va atrage o pagină.

Acest lucru ridică problema dacă utilizarea Tune ar putea provoca reacții de la site-urile de social media.

"Nu cred că site-urile social media ar fi al naibii pe utilizatorii lor pentru că încearcă să controleze ceea ce văd", a spus Henschen de la Constellation.

S-ar putea ca ei să vadă Tune ca fiind de ajutor, deoarece "proprietarii de conținut au obligația de a încerca să abordeze discursurile de ură și altele asemenea, dar acest lucru la scară este scump", a subliniat el.

Perspectivă
poate fi păcălit prin folosirea inteligentă a limbajului, dar Google a rezolvat unele dintre problemele inițiale care au apărut.

Cu toate acestea, un alt grup de cercetători vara trecută a publicat o lucrare care a spus toate tehnicile de detectare propuse
ar putea fi eludate de către adversari în mod automat inserarea greșelilor, modificarea limitelor cuvintelor sau adăugarea cuvintelor inofensive la discurs. Ei au recomandat utilizarea caracteristicilor la nivel de caracter, mai degrabă decât a caracteristicilor la nivel de cuvânt, pentru a face modelele ML de detecție a vorbirii mai robuste.

Modelul Tune ML este încă imatur, așa că "mă aștept să văd o mulțime de probleme cum ar fi această recoltă", a spus Enderle. Odată ce sa maturizat, totuși, "ar trebui să fie în măsură să facă față acestor eforturi pentru ao compromite suficient de eficient pentru a face jocurile din sistem o pierdere de timp".


Richard Adhikari a fost reporter al ECT News Network din 2008. Domeniile sale de acțiune includ cybersecurity, tehnologii mobile, CRM, baze de date, dezvoltare de software, computere mainframe și mid-range și dezvoltarea de aplicații. A scris și editat pentru numeroase publicații, inclusiv Săptămâna informațiilor și Computerworld. Este autorul a două cărți despre tehnologia client / server.
Trimiteți-l pe Richard.

.



Cititi mai mult pe technewsworld.com

Lasă un răspuns

Adresa ta de email nu va fi publicată. Câmpurile obligatorii sunt marcate cu *

%d blogeri au apreciat: