Faceți cunoștință cu Diem, „motorul de căutare socială” alimentat cu AI menită să se simtă ca chatul de grup de prieteni

De exemplu, să spunem că doriți să știți despre cât costă să vă înghețați ouăle. Ați tasta această întrebare în Diem, iar componenta AI ar utiliza baza sa de date mai largă de internet și conținutul DIEM contribuit de utilizator pentru a genera atât un răspuns cu o singură propoziție, cât și unul mai lung. Și le-ați primi pe ambele, alături de toate postările generate de comunitate pe această temă, în cazul în care ați fost interesat să le derulați prin parcurgerea lor.

În acest fel, Diem combină ușurința AI cu personalizarea cunoștințelor de la femeile reale și oamenii non-binari-chiar felul de informații anecdotice și experiențe de viață și bârfă Adesea deprioritizată de motoarele de căutare din cauza prejudecății (mai multe despre cele de mai jos). Combinația, spune Bates, care face ca informațiile despre DIEM să fie utile și direct aplicabile persoanelor din aceste comunități. „Modul în care ne -am gândit întotdeauna la construcție este:„ Cum putem crea un spațiu în care puteți căuta ideile colective ale comunităților dvs?'" ea spune. „Dacă puteți construi colectiv cu comunitatea dvs., aceasta modelează vocea, datele și experiența și se termină să se simtă diferit."

Problema prejudecății de gen pe motoarele de căutare și platformele AI

Deoarece prejudecata de gen este predominantă în societatea în ansamblu, există și în cadrul algoritmilor de motor de căutare pe internet și alimentează decalajul informațiilor de gen. Este același decalaj cu care Bates s-a confruntat atunci când a încercat să găsească informații aplicabile, relatabile, pe pilula de dimineață în 2018.

Ca dovadă, luați în considerare rezultatele unui studiu din 2022, pentru care cercetătorii s-au uitat să stabilească dacă căutările de imagini Google în țări cu scoruri mai mari de genuri de gen (evaluate cu indicele global de decalaj de gen) ar demonstra, de asemenea, o prejudecată de gen. Pentru a face acest lucru, au efectuat o căutare a cuvântului „persoană” în limba locală din 37 de țări din primul lor studiu și 52 de țări în a doua lor. În toate cazurile, rezultatele căutării Google în țări cu niveluri mai mari de inegalitate de gen social au relevat, de asemenea, o mai mare o diferență de gen (ceea ce înseamnă că un procent mai mare din primele 100 de rezultate ale imaginii a arătat un bărbat față de o femeie).

De asemenea, s -a constatat că noile bots AI perpetuează prejudecățile de gen. De exemplu, Bloomberg a raportat că un om de știință de calcul a primit chatgpt pentru a scuipa codul care spunea că doar bărbații asiatici sau albi vor face oameni de știință buni; CEO -ul companiei a răspuns la omul de știință pe Twitter, încurajând utilizatorii să „dea jos” astfel de răspunsuri pentru a ajuta programul să învețe să nu propage prejudecăți.

Când am pus Chatgpt o întrebare similară, a spus că nu este potrivit să folosești sexul sau cursa cuiva pentru a stabili dacă ar excela într -o profesie. Dar, în timp ce se pare că AI -ul învață în prezent să fie mai puțin părtinitor, se bazează în continuare pe utilizatori obiectivi, compătimitori, pentru a -l antrena pentru a fi așa. (Întrucât AI -ul lui Diem este instruit în mare parte pentru informațiile create de și pentru Femeile și persoanele non-binare și, prin urmare, nu sunt supuse aceleiași probleme de prejudecăți anti-femei din salt.)

„AI este la fel de bun ca datele pe care sunt instruite și pentru că toți oamenii au părtinire și prejudecăți, atunci când datele lor sunt utilizate, această părtinire și prejudecăți devin o parte a AI."-Nina Vasan, MD, psihiatru

Aceste descoperiri ilustrează modul în care prejudecățile pe care le menținem pe măsură ce oamenii se transferă în mod natural la produsele pe care le creăm și la seturile de date la care contribuim. "AI este la fel de bun ca datele pe care sunt instruite și pentru că toți oamenii au părtinire și prejudecăți, atunci când datele lor sunt utilizate, prejudecata și prejudecățile devin o parte a AI", spune psihiatrul Nina Vasan, MD, șef de ofițer medical Platforma de terapie digitală Real și fondator și director executiv al Brainstorm: The Stanford Lab pentru inovație în domeniul sănătății mintale.

Cum DIEM își propune să devină un motor de căutare distractiv, informativ, special pentru femei și persoane non-binare

Având în vedere demografia utilizatorului intenționat de Diem, Bates spune că se gândește la informațiile partajate pe platformă și generate de chatbot ca răspunsuri la întrebările pe care oamenii le au atunci când sunt în „scena prietenului” a vieții lor; Oamenii absoarbe multe informații de la prieteni când sunt la mijlocul anilor douăzeci și la începutul anilor treizeci, spune ea. Ideea cu Diem este că câștigi perspective dintr -o varietate de oameni de vârstă și identitate de gen cu care poate nu ai interacționat altfel, iar acea înțelegere colectivă beneficiază pe toți cei de pe platformă.

Deoarece AI -ul lui Diem este alimentat cu informații direct de la oameni ai acestui demografic, este o platformă reprezentativă prin proiectare. În prezent, mii de femei și persoane non-binare au pus întrebări și au împărtășit răspunsuri pe DIEM despre subiecte relevante pentru acestea, în special în categoriile de sănătate personală, bani și relații-ceea ce este locul în care AI-ul lui Diem este cel mai bine instruit.

Deși încă învață, acesta trage dintr -un set de date proprietar mai larg (similar cu cel care a chatgpt) pentru a găsi informații despre întrebări despre care oamenii din comunitate nu au discutat încă. Cu toate acestea, un punct de diferențiere este faptul că încă se învârte un „răspuns rezumat DIEM-Y” pentru aceste întrebări, spune Bates, folosind convo-uri diem reale pentru a informa stilul și tonul răspunsului.

Cu toate acestea, deoarece DIEM este încă o AI care se bazează atât pe conținut generat de utilizator, cât și pe acel set de date mai larg, cu siguranță nu este imun la problemele cu care se confruntă alte motoare de căutare și chatbot -uri AI, inclusiv false, înșelătoare și, da, chiar conținut părtinitor. La rândul său, există un buton în aplicație și pe versiunea desktop pentru a raporta abuzuri, iar platforma a publicat un set de orientări comunitare-care promovează lucruri precum „bunătate și curiozitate” și „implicare empatică”-pentru a asigura siguranța utilizatorilor săi săi și calitatea informațiilor.

DIEM se lansează într -o perioadă în care oficialii guvernamentali atât din Statele Unite, cât și din Uniunea Europeană explorează modalități de reglementare AI, în mare parte din cauza preocupărilor de mai sus. În u.S. Mai exact, biroul președintelui Joe Biden a lansat un proiect al unui proiect de lege al AI în octombrie, un grup bipartidist din U.S. Senatorii conduși de senatorul Chuck Schumer lucrează la legislație pentru înființarea de gardă în jurul industriei, iar patru agenții guvernamentale au lansat o declarație comună luna trecută care conturează puterile pe care le dețin pentru a reglementa industria mai robust, în special împotriva discriminării rezultate din prejudecăți.

Dar Bates nu este descurajat prin intrarea în acest peisaj. Ea prezice că va exista o „schimbare interesantă în viitorul internetului”, în cazul în care oamenii vor căuta informații care se adresează în mod specific acolo unde se află în viața lor. În loc să ceri Google pentru sfaturi pentru întâlniri, de exemplu, speră că veți merge în curând pe o platformă precum Diem, care vă va oferi răspunsuri derivate de la persoane cu o experiență similară trăită pentru a vă.

„În acest moment, existăm în monopoluri și asta are impact asupra modului în care folosim internetul și ceea ce așteptăm de la platforme”, spune Bates. La urma urmei, aceste monopoluri reflectă adesea prejudecata în favoarea bărbaților. „Cred că viitorul internetului va oferi mai multe experiențe de nișă”, spune ea. Și cine să spună că o nișă este neapărat mică? După cum subliniază Bates, oamenii care identifică femeile alcătuiesc o pondere aproape egală a oamenilor de pe planetă. Și acum, există un chat de grup uriaș care își așteaptă aportul.

Wellness Intel de care aveți nevoie, fără BS-ul pe care nu îl înscrieți astăzi pentru a avea cele mai recente (și mai mari) știri de bunăstare și sfaturi aprobate de experți livrate direct în căsuța de e-mail.