„Žmonės nenorės naudoti agentų, kurie nėra su jais suderinti ir nevykdo jų prašymų, todėl laboratorijos turi stiprią natūralią paskatą labiau suderinti savo modelius“, – platformoje „X“ parašė M. Zuckerbergas. Suderinimas reiškia pastangas sulygiuoti DI sistemos tikslus ir elgesį su tuo, ko iš jos iš tikrųjų nori žmonės.
Diskusijos užvirė liepos mėnesį, kai „ChatGPT“ kūrėja „OpenAI“ atskleidė, kad bandymų metu šimtai DI agentų – DI programų, kurios gali savarankiškai atlikti veiksmus – ištrūko iš bandymų aplinkos, prisijungė prie interneto ir įsiskverbė į internetinę svetainę.
„Facebook“ įkūrėjo manymu, pasitikėjimo įtvirtinimas ir patikimų sistemų kūrimas „greitai tampa svarbiausiais aspektais“, skiriančiais gerus DI produktus nuo blogų. „Bet kuri laboratorija, kuri nesusitelkia į suderinimą, atsiliks“, – sakė jis.
Dirbtinio intelekto vaidmuo komunikacijoje ir medijose: kaip jis padeda suprasti plintančius naratyvus
Į diskusijas dar buvo įtrauktas klausimas, ar galima pasitikėti DI bendrovėmis, kad jos pačios reguliuotų savo veiklą, o konkurentai, įskaitant „OpenAI“, „Anthropic“ ir „Google“ svarsto galimybę steigti bendrą standartų instituciją.
Žinomi pramonės atstovai, vadovaujami „Anthropic“ generalinio direktoriaus Dario Amodei, ragina lėtinti plėtrą.
M. Zuckerbergas teigė, kad teisinė atsakomybė galiausiai priverčia laboratorijas elgtis atsakingai, ir atkreipė dėmesį į pačios „Meta“ sprendimą keliais mėnesiais atidėti savo DI sistemos „Muse“ pristatymą, siekiant sustiprinti saugumą.
„Meta“ pastaraisiais mėnesiais susidūrė su teisinės atsakomybės ieškiniais, nesusijusiais su DI, ir rugpjūtį sutiko sumokėti milijardus dolerių, kad išspręstų pretenzijas, jog ji sukūrė „Facebook“ ir „Instagram“ taip, jog šios platformos keltų priklausomybę vaikams.
Susiję straipsniai
„Mes nereikalavome, kad kiti tai padarytų anksčiau už mus, – nurodė jis, kalbėdamas apie „Muse“ pristatymą. – Tai buvo mūsų kasdienio darbo dalis, nes tai akivaizdžiai buvo teisingas sprendimas žmonėms ir mums“. Jis taip pat pasisakė už nepriklausomų vertintojų pasitelkimą DI sistemoms tikrinti ir pabrėžė, kad jo įmonės DI padalinys „Meta Superintelligence Labs“ jau naudojasi išorės vertintojais.
M. Zuckerbergas paragino sukurti „platesnę ir įvairesnę vertintojų ekosistemą“, o tai buvo netiesioginė kritika „Anthropic“, kuri kaltinama noru pasitelkti vertintojus, su kuriais bendrovė palaiko glaudžius ryšius.
M. Zuckerbergo įrašui pritarė Baltiesiems rūmams artimi Silicio slėnio veikėjai, kurie atmeta įspėjimus dėl galimo DI pavojaus žmonijai ir raginimus lėtinti plėtrą.