Google i Jigsaw pracują nad technologią, która ma moderować komentarze w sieci

Google wraz z start-upem Jigsaw pracuje nad technologią Perspective, która wykorzystuje uczenie maszynowe do wyszukiwania nieodpowiednich komentarzy w sieci.

Interfejs programistyczny Perspective umożliwi programistom dostęp do uczenia maszynowego Google, dzięki czemu wydawcy (m.in. należący do Digital News Initiative) będą mogli przetestować te algorytmy i sprawdzić, czy są dla nich przydatne.

Perspective sprawdza komentarze i ocenia ich podobieństwo do komentarzy oznaczonych jako "toksyczne" lub takie, które mogłyby skłonić drugą osobę do zaprzestania dyskusji. - Żeby nauczyć się je rozpoznawać, Perspective przeanalizował dziesiątki tysięcy komentarzy, które zostały oznaczone przez osoby, które je zrecenzowały - wyjaśnia Jared Cohen, prezes Jigsaw.

Wydawcy mogą sami wybrać, co chcą zrobić z informacjami otrzymywanymi od Perspective. Można je i przekazać do oceny własnym moderatorom. Można też pozwolić komentującym sprawdzić potencjalną toksyczność posta przed publikacją, a użytkownicy mogą sortować komentarze pod względem ich toksyczności.

Technologia na razie dostępna jest tylko po angielsku i rozpoznaje tylko ten język. Twórcy zapowiadają, że w przyszłości ma zostać wprowadzona też obsługa innych języków.

Obecnie Perspective skupia się na rozpoznawaniu obelżywych treści. W przyszłości ma też wyławiać komentarze nie na temat.

(JM, 23.02.2017)