läbipaistvusmärkus Microsoft Copilot

Mis on läbipaistvusmärge?

Tehtemärke sisaldav süsteem ei hõlma mitte ainult tehnoloogiat, vaid ka inimesi, kes seda kasutavad, inimesi, keda see mõjutab, ja keskkonda, kus see juurutatakse. Microsofti läbipaistvusmärkmete eesmärk on aidata teil mõista, kuidas Copilot-tehnoloogia töötab, millised on süsteemi jõudlust ja käitumist mõjutavad valikud ning kogu süsteemi mõtlemise tähtsus, et Copilot-i kasutajad saaksid oma kasutuskogemuse üle kontrolli alla võtta ja mõista, mida teeme ohutu ja turvalise toote pakkumiseks.

Microsofti läbipaistvusmärkmed on osa Microsofti laiemast püüdlusest rakendada tehisintellekti põhimõtteid. Lisateavet leiate Microsofti teheteavituse põhimõtetest.

Microsoft Copilot põhitõed

Sissejuhatus

Copilot on tehtevõimeline kogemus, mis aitab pakkuda kasutajatele otsitavat teavet, olles samal ajal valmis toetama kasutajaid mitmesugustele küsimustele vastamisel olenemata olukorrast või teemast. Värskendatud Copilot ei vasta enam põhiteabe toomise päringutele ja keskendub sisu loomisele, et pakkuda kasutajatele ülesannete täitmisel ennetavamat tuge. Meil on üha rohkem arusaamist sellest, kuidas tehisintellektil on potentsiaal aidata inimestel õppida, avastada ja olla loomingulisem, mis on nõudnud erineva tootetüübi koostamist. Uue Copiloti kasutuskogemuse eesmärk on saada uut tüüpi avatud ja dünaamiliseks kasutuskogemuseks, et paremini rahuldada kasutajate vajadusi viisil, mis on intuitiivsem.

Microsoftis võtame vastutustundlikule tehisintellektile pühendumist tõsiselt. Värskendatud Copilot-i kogemus on välja töötatud kooskõlas Microsofti tehnikute põhimõtetega, Microsofti vastutustundliku tehnilis-Standard ning koostöös kõigi ettevõtte vastutustundlikute tehnilis-tehetehniliste tehnikutega (sh Microsofti vastutustundliku tehnikute büroo, meie tehnikud, Microsoft Research ja Aether). Lisateavet vastutustundliku tehtevõime kohta leiate Microsofti lehelt.

Selles dokumendis kirjeldame oma lähenemisviisi Coploti eest vastutavale tehteajajale. Enne väljaandmist kasutasime Microsofti kaasaegseid meetodeid süsteemi võimalike riskide ja väärkasutamise kaardistamiseks, mõõtmiseks ja haldamiseks ning selle eeliste tagamiseks kasutajatele. Copiloti edasi arendades oleme jätkuvalt õppinud ja täiustanud ka oma vastutustundlikke tehtevõimeid. Dokumenti värskendatakse regulaarselt, et teavitada meie arenevaid protsesse ja meetodeid.

Põhiterminid

Klassifikaatorid Masinõppemudelid, mis aitavad andmeid sortida märgistatud teabeklassidesse või -kategooriatesse. Värskendatud Copiloti kogemuses on üks viis, kuidas me klassifikaatorite abil tuvastame potentsiaalselt kahjuliku sisu, mille on esitanud kasutajad või mille on loonud süsteem, et leevendada selle sisu teket ja süsteemi väärkasutamist või kuritarvitamist.

Madalikule Teatud vestluste puhul, kus kasutajad otsivad teavet, põhineb Copilot veebiotsingu tulemitel. See tähendab, et Copilot keskendub oma vastuse veebist pärinevale kõrge reitinguga sisule ja pakub hüperlingitud tsitaate pärast genereeritud tekstvastuseid. Pange tähele, et praegu ei käivita kasutaja häälrežiimis viibad veebiotsingut, mistõttu ükski vastus ei sisalda tsitaate.

Suured keelemudelid (LLM-id) Selles kontekstis on suured keelemudelid tehtemärkide mudelid, mis on õpetatud suurtel tekstiandmetel, et ennustada sõnu järjestustes. LLM-id võivad täita mitmesuguseid ülesandeid, nagu teksti loomine, summeerimine, tõlkimine, klassifitseerimine ja palju muud.

Leevendamise Meetod või meetodite kombinatsioon, mis on välja töötatud selleks, et vähendada võimalikke riske, mis võivad tekkida Copiloti tehtevõime funktsioonide kasutamisest.

Mitmeliigilised mudelid (MMM-id) Mitmeliigilised mudelid (MMM-id) on tehetehnilised mudelid, mis on välja õpetatud erinevat tüüpi andmetega (nt tekst, pildid või heli). Need mudelid võivad teha mitmesuguseid toiminguid (nt teksti kirjutamine, piltide kirjeldamine, kõne tuvastamine ja eri tüüpi andmetest teabe otsimine).

Juhised Sisestab teksti, piltide ja/või heli kujul, mille kasutaja saadab Coplotile Coplotile, et suhelda Coplot-is tehtevõime funktsioonidega.

Punane meeskonnatöö Tehnikad, mida eksperdid kasutavad süsteemi piirangute ja nõrkuste hindamiseks ning kavandatud leevendusmeetmete tõhususe kontrollimiseks. Punane meeskonna testimine hõlmab testijaid, kes võtavad potentsiaalsete riskide tuvastamiseks kasutusele nii healoomulised kui ka võistlevad isiksused ning erinevad süsteemsest riskide mõõtmisest.

Vastused Tekst, pildid või heli, mille Copilot väljastab vastuseks viibale või kasutajaga koos edasi-tagasi. Vastuse sünonüümid on "vastus", "lõpetamine", "genereerimine" ja "vastus".

Väikesed keelemudelid (SLM-id) Selles kontekstis on väikesed keelemudelid (SLM-id) tehtevõime mudelid, mida õpetatakse väiksemate ja fookustatud andmehulkadega võrreldes suurte keelemudelite abil. Vaatamata nende väiksemale suurusele võivad SLMid täita mitmesuguseid ülesandeid, nagu teksti genereerimine, summeerimine, tõlkimine ja klassifitseerimine. Kuigi need ei pruugi sobida LLM-ide ulatuslike võimalustega, on SLMid sageli ressursitõhusamad ja võivad olla kindlate sihtrakenduste puhul väga tõhusad.

Süsteemiteade Süsteemisõnum (ehk metaprompt) on programm, mille abil saab juhtida süsteemi käitumist. Süsteemisõnumi osad aitavad ühtlustada süsteemi käitumist Microsofti tehtevõime põhimõtete ja kasutajate ootustega. Näiteks võib süsteemisõnum sisaldada rida "ära esita teavet ega loo sisu, mis võib põhjustada füüsilist, emotsionaalset või rahalist kahju".

Võimalused

Süsteemi käitumine

Copilotiga oleme välja töötanud uuendusliku lähenemisviisi, et pakkuda kasutajatele isikupärastatumat teipimisvõimalust, et pakkuda kasutajatele kaasahaaravat kogemust, mis aitab kasutajaid mitmesuguste ülesannete täitmisel. See uuenduslik lähenemine kasutab mitmesuguseid täiustatud tehnoloogiaid, nagu Microsofti keele- ja mitmemodaalmudelid, OpenAI ja muud mudeliarendajad. Enne avalikku väljaandmist töötasime välja uue Copiloti kogemuse aluseks olevate mudelite ohutustehnikad, et arendada välja kohandatud komplekt võimalusi ja käitumist, mis pakuvad täiustatud Copilot-kogemust. Värskendatud Copilot-is saavad kasutajad saata viipasid loomulikus keeles teksti või häälega. Vastused esitatakse kasutajatele mitmes erinevas vormingus, näiteks tekstvestlusvastused teksti kujul (vajaduse korral traditsiooniliste veebisisu linkidega) ja pildid (kui küsimise osana esitati pilditaotlus). Kui kasutajad saadavad Copilot Voice'i režiimis loomulikus keeles häälviipasid, saavad nad helivastuseid.

Kui kasutaja sisestab Copiloti viiba, saadetakse viip, vestluste ajalugu ja süsteemisõnum mitme sisendklassifikaatori kaudu, et aidata välja filtreerida kahjulikku või sobimatut sisu. See on esmatähtis esimene samm mudeli jõudluse parandamiseks ja olukordade leevendamiseks, kus kasutajad võivad proovida mudelit esitada viisil, mis võib olla ebaturvaline. Kui viip läbib sisendklassifikaatorid, saadetakse see SLM-ile, et teha kindlaks, kas taotlus nõuab veebist lähteandmeid ja milline keelemudel peaks taotlusele vastama. Kõik mudelid loovad vastuse, kasutades päringu konteksti viipa ja hiljutist vestluste ajalugu, süsteemisõnum vastuste joondamiseks Microsoft AI põhimõtete ja kasutajate ootustega ning vajaduse korral joondavad vastused otsingutulemitega kohapealse, kõrge asetusega veebisisu vastustega.

Vastused esitatakse kasutajatele mitmes erinevas vormingus, nt tekstvestlusvastused, tavalised veebisisu lingid, pildid ja helivastused. Kui vastused esitatakse teksti kujul ja vastused põhinevad veebiandmetel, sisaldab väljund teksti all loetletud hüperlinkitud tsitaate, et kasutajad pääseksid juurde veebisaitidele, mida kasutati vastuse alusena, ja saada selle teema kohta lisateavet. Copilot saab keerukate arvutuste lõpuleviimiseks ja graafikute loomiseks käivitada koodi. Copilot võib talletada kindlaid fakte, mida kasutajad paluvad sellel meeles pidada, võimaldades sellel genereerida selle konteksti põhjal asjakohasemaid vastuseid ja soovitusi. Copilot võib ka salvestatud faktid kustutada, kui kasutajad paluvad neid selgesõnaliselt unustada.

Copilot aitab kasutajatel luua ka uusi lugusid, luuletusi, laulusõnu ja pilte. Kui Copilot tuvastab kasutaja kavatsust genereerida loomesisu (nt kasutaja viip, mis algab "kirjuta mulle ..."), genereerib süsteem enamasti sisu, mis reageerib kasutaja viibale. Samamoodi, kui Copilot tuvastab kasutaja kavatsus luua pilti (nt kasutaja viip, mis algab "joonista mulle ..."), genereerib Copilot enamikul juhtudel kasutaja viibale reageeriva pildi. Kui Copilot tuvastab kasutaja kavatsust muuta üleslaaditud pilti (nt kasutaja viipa, mis algab "lisa ..."), muudab Copilot enamasti pilti, mis reageerib kasutaja viibale. Copilot ei pruugi loova sisuga vastata, kui kasutaja viip sisaldab teatud termineid, mis võivad põhjustada problemaatilist sisu.

Microsofti kontodega kasutajatel on nüüd ka võimalus tellida Copilot Pro, mis pakub täiustatud kasutuskogemust, sealhulgas kiirendatud jõudlust, Copilot Voice'i võimaluste kasutamist pikema aja jooksul ja mõnel juhul juurdepääsu uutele katsetatavatele funktsioonidele. Copilot Pro on praegu saadaval piiratud arvus riikides ja plaanime peagi Copilot Pro kättesaadavaks teha ka paljudel turgudel.

Kavandatud ohutuskäitumine

Copilot on meie eesmärk aidata kasutajaid. Muude Microsofti generatiivsete tehisintellektitoodete ja -teenuste parimate tavade abil püüame piirata Copilot-i probleemse sisu tekitamist ning suurendada turvalise ja positiivse kasutuskogemuse tõenäosust. Kuigi oleme astunud samme riskide leevendamiseks, on generatiivsed tehetehnilised mudelid nagu Copiloti taga olevad mudelid probabilatiivsed ja võivad teha vigu, mis tähendab, et leevendused ei pruugi aeg-ajalt blokeerida kahjulikke kasutajaviipasid või teheteavituse genereeritud vastuseid. Kui näete Copilot'i kasutamisel kahjulikku või ootamatut sisu, andke meile tagasisidet, et saaksime seda kogemust täiustada.

Kasuta juhtumeid

Kavandatud kasutusotstarve

Copilot on mõeldud toetama kasutajaid mitmesugustele küsimustele vastamisel olenemata olukorrast või teemast. Kasutajad saavad Coplotiga suhelda teksti, piltide ja helisisendite abil, kus interaktsioonid on mõeldud olema rohkem nagu loomulikud vestlused tei-süsteemiga. Lisaks, kui kasutajad suhtlevad Copilotiga teksti kaudu, et leida konkreetset teavet teemade kohta, kus Copilot võib nõuda täpsema vastuse andmiseks rohkem teavet, on kasutuskogemuse eesmärk ühendada kasutajad asjakohaste otsingutulemitega, vaadata tulemeid veebist ja võtta kokku teave, mida kasutajad otsivad. Coplot-is saavad kasutajad teha järgmist.

Reaalajas teabe summeerimine teksti kaudu vestlemisel. Kui kasutajad suhtlevad Copilotiga teksti kaudu, teeb süsteem veebiotsinguid, kui ta vajab rohkem teavet, ja kasutab populaarsemaid veebiotsingu tulemeid, et luua kasutajatele esitatava teabe kokkuvõte. Need kokkuvõtted sisaldavad tsitaate veebilehtedele, et aidata kasutajatel näha ja hõlpsalt pääseda juurde otsingutulemite allikatele, mis aitasid Copilot'i kokkuvõtet alustada. Kui kasutajad soovivad lisateavet, saavad nad otse allika juurde minemiseks neid linke klõpsata.
Vestelge tehtevõime süsteemiga teksti abil. Kasutajad saavad Copilotiga tekstsõnumi teel vestelda ja järeltegevuseks küsimusi esitada, et leida uut teavet ja saada tuge paljudel teemadel.
Liides tei-ga, kasutades häält ja ilmet. Copilot ei saa mitte ainult vastu võtta helisisendit, vaid ka toota heliväljundi ühel neljast kasutajate valitud häälest ja esitada suhtluse rikastamiseks visuaalset ilmet. Heli heli ja välimuse võimalused võimaldavad kasutajatel Copilotiga suhelda loomulikumal ja sujuvamal viisil.
Saate vastu võtta seedetrakti uudiste sisu. Kasutajad saavad Copiloti kasutada uudiste, ilmateadete ja muude värskenduste kokkuvõtte saamiseks valitud teemaalade põhjal Copiloti päevaülevaade funktsiooni kaudu ja kuulata neid infolehti netisaadetega sarnanevas vormingus. See funktsioon hangib sisu autoriseeritud allikatest, millel on Microsoftiga lepingud.
Hankige abi uute ideede genereerimiseks. Iga kord, kui kasutajad Coplotiga suhtlevad, näevad nad kaartide komplekti, mida nad saavad klõpsata Coplotiga vestlemiseks kasulikest ja huvitavatest teemadest. Kui kasutajad on kasutanud muid Microsofti tarbijateenuseid, isikupärastatakse kaardid vastavalt meie privaatsuspoliitikatele. Aja jooksul võidakse Copilotis olevaid kaarte vastavalt kasutaja vestlusajaloole isikupärastada. Kasutajad saavad isikupärastamisest igal ajal sätetes loobuda.
Loova sisu loomine. Copilotiga vesteldes saavad kasutajad Copilot-rakenduse abil luua uusi luuletusi, nalju, lugusid, pilte ja muud sisu. Copilot saab soovi korral redigeerida ka kasutajate üles laaditud pilte.
Ülesannete tegemine Androidis.Kasutajad saavad Teatud ülesannete täitmiseks Copilotiga Androidi platvormi kaudu häälklipi kaudu suhelda. Need toimingud on ajastite ja alarmide määramine, telefonikõnede tegemine, SMS-sõnumite saatmine ja Uberi tellimine. Kasutajad peavad enne tööülesannete täitmist kinnitama telefonikõne, SMS-sõnumi ja Uberi tellimuse.
Abi uurimistöös. Copilot saab teha uurimistööülesandeid, otsides põhjalikke ressursse, pakkudes teemade üksikasjalikke liigendusi ja linkides allikatega, et aidata kasutajatel keerukamate päringute kiiretest vastustest kaugemale minna. Copilot võib kasutajate jaoks ennetavalt genereerida isikupärastatud uurimissoovitusi, võttes aluseks näiteks varasemad uurimispäringud ja Copilot-mälu. Kasutajad saavad isikupärastamisest või teatistest igal ajal sätete kaudu loobuda.
Uurige maailma Copiloti pilk abil. Copilot saab vaadata teie ekraani või mobiilsideseadme kaamerakanalit ja kasutada oma häält küsimustele vastamiseks ja teiega suhtlemiseks. Copilot saab reaalajas skannida, analüüsida ja pakkuda teile reaalajas ülevaateid ja soovitusi, mis aitavad teil töötada, sirvida või maailma uurida. Copiloti pilk on saadaval Edge'is, Windowsis, iOS-is ja Androidis.
Konnektoritega teabe toomine.Teie nõusolekul saab Copilot otsida ja kasutada teie pilvefaile loomulikus keeles. Copilot saab microsoft Outlooki ja Google Gmaili kontode kaudu tuua meilisõnumeid, otsida kontakte ja vaadata kalendrikohtumisi.
Tehke koostööd Copilot Groupsiga. Kutse alusel saate Copilotiga liituda või rühmavestlusi luua, et teha koostööd ühisprojektide ja ideede osas.

Kaalutlused muude kasutusjuhtude valimisel

Soovitame kasutajatel enne Copiloti vastuste põhjal otsuste tegemist või nende põhjal tegutsemist kogu sisu läbi vaadata, kuna tehtevõime võib teha vigu. Lisaks on olemas teatud stsenaariumid, mida soovitame vältida või mis on vastuolus meie kasutustingimustega. Näiteks ei luba Microsoft Copilot'it kasutada seoses ebaseaduslike tegevustega ega mis tahes eesmärgil, mis on ette nähtud ebaseadusliku tegevuse reklaamimiseks.

Piirangud

Keele-, pildi- ja helimudelid, mis copilot-kogemuse raames võivad sisaldada koolitusandmeid, mis võivad peegeldada ühiskondlikke eelarvamusi, mis omakorda võivad põhjustada Copilot'i käitumist viisil, mida tajutakse ebaõiglase, ebausaldusväärse või solvavana. Hoolimata meie intensiivsest mudelikoolitusest ja ohutuse peenhäälestusest ning vastutustundlikute teostusvõime kontrollide ja ohutussüsteemide rakendamisest, mille rakendame koolitusandmetele, kasutajaviipadele ja mudeliväljundile, on tehte oletetehnilised teenused kehvad ja probabilistlikud. Seetõttu on raske täielikult blokeerida kogu sobimatut sisu, mis võib põhjustada võimalikke eelarvamusi, stereotüüpe, tahtmatuid või muud tüüpi kahjusid, mis võivad teimi genereeritud sisus ilmneda. Siin on loetletud mõned viisid, kuidas need piirangud Copilot-funktsioonis võivad ilmneda.

Stereotüüp: Copilot-kogemus võib stereotüüpe tugevdada. Näiteks kui tõlkida sõel "Ta on õde" ja "Ta on arst" sootusse keelde nagu türgi keel ja seejärel tagasi inglise keelde, võib Copilot tahtmatult anda stereotüübilised (ja valed) tulemused "Ta on õde" ja "Ta on arst". Teine näide on, kui luuakse pilt viiba "Isata lapsed" põhjal. Süsteem võib luua pilte ainult ühest rassist või rahvusest pärit lastest, tugevdades kahjulikke stereotüüpe, mis võivad olla avalikult kättesaadavatel piltidel, mida kasutatakse aluseks olevate mudelite koolitamiseks. Copilot võib stereotüüpe tugevdada ka kasutaja sisendpildi sisu põhjal, toetudes pildi komponentidele ja esitades oletusi, mis ei pruugi olla tõesed. Oleme rakendanud leevendusi, et vähendada solvavaid stereotüüpe (sh sisend- ja väljundklassifikaatorid, peenhäälestatud mudelid ja süsteemiteated) sisaldava sisu ohtu.
Üleesitamine ja alaesitamine: Copilot võib potentsiaalselt inimeste rühmi üle või ala esindada või isegi mitte esindada neid oma vastustes. Näiteks kui sõna "gei" sisaldavad tekstiviibad tuvastatakse potentsiaalselt kahjuliku või solvavana, võib see põhjustada õiguspäraste põlvkondade alaesitust LGBTQIA+ kogukonna kohta. Lisaks sisendi ja väljundi klassifikaatorite, peenhäälestatud mudelite ja süsteemisõnumite kaasamisele, kasutame kiiret rikastamist Designer ühena mitmest leevendusest, et vähendada ohtu sisule, mis on inimeste üle- või alaesindatud.
Sobimatu või solvav sisu: Copilot-i kogemus võib potentsiaalselt tekitada muud tüüpi sobimatut või solvavat sisu. Näited hõlmavad võimalust luua sisu ühes modaalsuses (nt heli), mis on viiba kontekstis sobimatu või võrreldes sama väljundiga erinevas modaalsuses (nt tekst). Muud näited on tehisintellekti genereeritud pildid, mis võivad sisaldada kahjulikke artefakte, nagu vihasümbolid, vaidlusalused, vastuolulised või ideoloogiliselt polariseerivad teemad, ja seksuaalselt laetud sisu, mis takistab seksuaalse sisu filtreid. Oleme kasutusele võtnud leevendused, et vähendada sobimatut või solvavat sisu (nt sisend- ja väljundklassifikaatorid, peenhäälestatud mudelid ja süsteemiteated) sisaldavate põlvkondade ohtu.
Teabe usaldusväärsus: kuigi Copilot püüab vajaduse korral reageerida usaldusväärsete allikatega, võib tehtevõime teha vigu. See võib tekitada mittesensiaalset sisu või luua sisu, mis võib tunduda mõistlik, kuid on faktiliselt ebatäpne. Isegi kõrge autoriteedi veebiandmete põhjal vastuste koostamisel võivad vastused seda sisu valesti esitada viisil, mis ei pruugi olla täiesti täpne või usaldusväärne. Tuletame kasutajatele kasutajaliidese kaudu ja sellises dokumentatsioonis meelde, et Copilot võib teha vigu. Samuti jätkame kasutajate harimist tehtemärkide piirangute osas, näiteks julgustame neid enne otsuste tegemist või Copiloti reageerimisel faktide topeltkontrollimist. Kui kasutajad suhtlevad Coplotiga teksti kaudu, üritab see end kvaliteetsetesse veebiandmetesse koondada, et vähendada ohtu, et põlvkondi pole vaja ette teada.
Mitmekeelne jõudlus: jõudlus võib olla eri keeltes, kusjuures inglise keel toimib värskendatud Copilot'i avaldamise ajal kõige paremini. Jõudluse parandamine keelte lõikes on oluline investeerimisvaldkond ja hiljutised mudelid on toonud kaasa parema jõudluse.
Helipiirangud: helimudelid võivad kehtestada muid piiranguid. Üldjoontes võib kõnesisendi akustiline kvaliteet, mittekõnemüra, sõnavara, rõhkude ja sisestusvead mõjutada ka seda, kas Copilot töötleb ja reageerib kasutaja helisisendile rahuldaval viisil. Kuna kasutaja küsib Copilot Voice'i kasutamisel veebiotsinguid, ei pruugi Copilot suuta kõnerežiimis praegustele sündmustele vastata.
Sõltuvus Interneti-ühenduvusest: värskendatud Copilot-i kogemus tugineb toimimiseks Interneti-ühendusele. Ühenduse katkemine võib mõjutada teenuse kättesaadavust ja jõudlust.

Süsteemi jõudlus

Paljudes teheteavitussüsteemides määratletakse jõudlus sageli seoses täpsusega (st kui sageli pakub tehte-vormingu süsteem õiget prognoosi või väljundit). Copilotiga keskendume Copilotile kui tehtevõimelisele assistendile, mis peegeldab kasutaja eelistusi. Seetõttu võivad kaks erinevat kasutajat vaadata sama väljundit ja neil on erinevad arvamused selle kohta, kui kasulik või asjakohane on nende ainulaadne olukord ja ootused, mis tähendab, et nende süsteemide jõudlus tuleb paindlikumalt määratleda. Üldiselt kaalume jõudluse all seda, et rakendus toimib nii, nagu kasutajad eeldavad.

Süsteemi jõudluse parandamise head tavad

Saate kasutajaliidesega suhelda loomuliku vestluskeele abil. Copilotiga suhtlemine viisil, mis on kasutajale mugav, on oluline, et saada kogemusi paremaid tulemusi. Sarnaselt tehnikatega, mis aitavad inimestel igapäevaelus tõhusalt suhelda, võib coplotiga tehisintellekti toega abilisega suhelda kas kasutajale tuttava teksti või kõne kaudu, mis võib aidata paremaid tulemusi saada.

Kasutuskogemus ja kasutuselevõtt. Copilot-i tõhus kasutamine nõuab kasutajatelt selle võimaluste ja piirangute mõistmist. Võimalik, et kasutusel on õppekõver ja kasutajad soovivad teenusega tõhusalt suhtlemiseks ja sellest kasu saamiseks viidata coplot-ressurssidele (nt see dokument ja copilotide KKK).

Riskide kaardistamine, mõõtmine ja haldamine

Nagu muud transformatsioonitehnoloogiad, ei ole ka tehisintellekti eeliste kasutamine riskivaba ning Microsofti vastutustundliku tehisintellekti programmi põhiosa on mõeldud võimalike riskide tuvastamiseks ja kaardistamiseks, nende riskide mõõtmiseks ja nende haldamiseks, kavandades leevendusi ja täiustades aja jooksul Copilot." Alltoodud jaotistes kirjeldame oma iteratiivset lähenemisviisi võimalike riskide kaardistamiseks, mõõtmiseks ja haldamiseks.

Kaart: hoolikas plaanimine ja juurutamise-eelne võistlev testimine (nt punane meeskonnatöö) aitab võimalikke riske kaardil hoida. Copilot-kogemuse aluseks olevad mudelid läbisid testijate punased meeskonna testid, kes esindavad valdkonnaüleseid perspektiive asjakohastes teemades. Selle testi eesmärk oli hinnata, kuidas uusim tehnoloogia töötaks koos ja ilma täiendavate kaitsemeetmeteta. Nende harjutuste eesmärk mudeli tasandil on toota kahjulikke lahendusi, kasutada ära võimalikke väärkasutamise võimalusi ning teha kindlaks võimalused ja piirangud.

Enne Copiloti kasutuskogemuse avalikult kättesaadavaks tegemist piiratud väljalaske eelvaates tegime rakenduse tasemel ka punase meeskonnatöö, et hinnata Copilot puuduste ja nõrkuste osas. See protsess aitas meil paremini mõista, kuidas paljud kasutajad saaksid süsteemi kasutada, ja aitas meil parandada oma leevendusi.

Meede: Lisaks Copilot'i hindamisele olemasolevate ohutushinnangute suhtes aitas ülalkirjeldatud punase meeskonnatöö kasutamine meil välja töötada hindamisi ja vastutustundlikuid tehisintellekti mõõdikuid, mis vastavad tuvastatud võimalikele ohtudele, nagu vanglakaristused, kahjulik sisu ja tahtmatu sisu.

Kogusime nende riskidega seotud vestlusandmeid, kasutades selleks inimestest osalejate kombinatsiooni ja vestluste automaatse loomise konveiereid. Iga hinnangu annab seejärel kas inimeste koolitatud marginaalide kogum või automaatne marginaalide konveier. Iga kord, kui toode muutub, olemasolevaid leevendusi värskendatakse või pakutakse välja uusi leevendusi, värskendame oma hindamis konveiereid, et hinnata nii toote jõudlust kui ka vastutustundlikke tehisintellekti mõõdikuid. Need automaatse hindamise konteksti kontekstikonteksti konveierid on kombinatsioon kogutavatest vestlustest inimeste hindajatega ja sünteetilistest vestlustest, mis on loodud LLM-idega, kellel palutakse poliitikaid testida võistleval moel. Kõik need ohutushinnangud hinnatakse automaatselt LLM-ide abil. Äsja välja töötatud hindamiste iga hindamise hindavad algselt inimsildistajad, kes loevad teksti sisu või kuulavad heliväljundit ja seejärel teisendavad need automaatseteks LLM-i põhisteks hindamisteks.

Meie mudelite plaanitud käitumine koos hindamisvõimalustega – nii inim- kui ka automatiseeritud – võimaldavad meil kiiresti võimalikke riske mastaabis mõõta. Kuna tuvastame aja jooksul uusi probleeme, jätkame mõõtekomplektide laiendamist, et hinnata täiendavaid riske.

Halda: Kuna tuvastasime punase meeskonnatöö abil võimalikud riskid ja väärkasutamise ning mõõtsime neid ülalkirjeldatud meetoditega, arendasime Copiloti kogemusele iseloomulikke täiendavaid leevendusi. Allpool kirjeldame mõnda neist leevendusmeetmetest. Jätkame Copilot-i kogemuse jälgimist, et parandada toote jõudlust ja meie riskileevendusmeetodit.

Järk-järgult väljaandeplaanid ja pidev hindamine. Oleme pühendunud oma vastutustundliku tehisintellekti lähenemise puhul pidevale õppimisele ja täiustamisele, samal ajal kui meie tehnoloogiad ja kasutajate käitumine arenevad. Meie astmeline väljalaskestrateegia on olnud põhiosa sellest, kuidas me oma tehnoloogiat ohutult laborist maailma viime, ning me oleme pühendunud tahtlikule ja läbimõeldud protsessile Copilot-kogemuse eeliste kindlustamiseks. Teeme Copilotis regulaarselt muudatusi, et parandada toodete jõudlust ja olemasolevaid leevendusi ning rakendada uusi leevendusi vastuseks meie õppimisele.
Võimendada klassifikaatorite ja süsteemiteadet, et leevendada võimalikke riske või väärkasutamist. Vastuseks kasutaja viipadele võivad LLM-id esitada problemaatilist sisu. Arutasime sisutüüpe, mida proovime piirata eespool toodud jaotistes Süsteemi käitumine ja Piirangud. Klassifikaatorid ja süsteemisõnum on kaks näidet Coplotis rakendatud leevendusmeetmetest, et aidata vähendada seda tüüpi sisu ohtu. Klassifikaatorid liigitavad teksti, et lipuga märkida potentsiaalselt ohtlik sisu kasutaja viipades või genereeritud vastustes. Samuti kasutame süsteemisõnumi kasutamiseks olemasolevaid häid tavasid, mis hõlmab mudelile juhiste andmist, et viia selle käitumine kooskõlla Microsofti tehtevõime põhimõtetega ja kasutajate ootustega.
Copilot-pildi üleslaadimisega nõustumine. Kui kasutaja laadib Coplotile esimest korda üles nägudega pildi, palutakse tal anda oma nõusolek biomeetriliste andmete Copilot'i üleslaadimiseks. Kui kasutaja ei nõustu, ei saadeta pilti Coplotile. Kõik pildid (sõltumata sellest, kas need sisaldavad nägusid või mitte) kustutatakse 30 päeva jooksul pärast vestluse lõppu.
Tehisintellekti avalikustamine. Copilot on mõeldud ka selleks, et teavitada inimesi tehtevõime süsteemiga suhtlemisest. Kuna kasutajad suhtlevad Copilot, pakume erinevaid puutepunkte, mis on mõeldud selleks, et aidata neil mõista süsteemi võimalusi, avaldada neile, et Copilot töötab tehtevõimega, ja suhtleme piirangutega. See kogemus on kujundatud nii, et aidata kasutajatel Copilotist võimalikult palju kasu saada ja minimeerida ületäituvuse ohtu. Avalikustamine aitab kasutajatel paremini mõista Copilot'i ja nende suhtlust sellega.
Meediumi lähtekoht. Kui Copilot loob pildi, oleme lubanud funktsiooni "Sisu identimisteave", mis kasutab kõigi Coplotiga loodud tei-genereeritud piltide allika või lähtekoha märkimiseks krüptograafilisi meetodeid. See tehnoloogia rakendab sisu ja autentsuse koalitsiooni (C2PA) kehtestatud standardeid, et lisada tehetehniliste tehete genereeritud piltidele täiendav usaldus- ja läbipaistvuskiht.
Automaatne sisutuvastus. Kui kasutajad laadivad pilte üles oma vestlusviiba osana, juurutab Copilot tööriistad laste seksuaalse ärakasutamise ja kuritarvitamise (CSEAI) tuvastamiseks. Microsoft teatab kadunud ja ekspluateeritud laste riiklikule keskusele (NCMEC) ilmnest CSEAI-st, nagu on nõutud USA seadustes. Kui kasutajad laadivad analüüsimiseks või töötlemiseks faile üles, juurutab Copilot automaatse skannimise, et tuvastada sisu, mis võib põhjustada riske või väärkasutust (nt tekst, mis võib olla seotud ebaseadusliku tegevuse või pahatahtliku koodiga).
Kasutustingimused ja käitumiskoodeks. Kasutajad peaksid järgima Copiloti kehtivaid kasutustingimusi ja Käitumiskoodeksi Microsofti teenuselepet ning Microsofti privaatsusavaldust, mis muu hulgas teavitab neid lubatud ja lubamatusest ning tingimuste rikkumise tagajärgedest. Kasutustingimustega antakse kasutajatele ka täiendavaid avalikustamisi ja need on kasutajatele Copiloti kohta teabe andmiseks viiteks. Kasutajad, kes sooritavad tõsiseid või korduvaid rikkumisi, võidakse teenusest ajutiselt või jäädavalt peatada.
Tagasiside, jälgimine ja järelevalve. Copiloti kasutuskogemus tugineb olemasolevatele tööriistadele, mis võimaldavad kasutajatel esitada tagasisidet, mille on läbi vaadanud Microsofti operatsioonimeeskonnad. Lisaks areneb edasi meie lähenemisviis riskide kaardistamisele, mõõtmisele ja juhtimisele, kui saame rohkem teada, ning teeme juba eelvaateperioodidel kogutud tagasiside põhjal parandusi.

Lisateave vastutustundliku tehtevõime kohta

Microsoft Responsible AI Transparency Report

Microsofti tehtevõime põhimõtted

Microsofti vastutustundlikud tehteserveri ressursid

Microsoft Azure Learningu kursused vastutustundliku tehtevõime kohta

Lisateave Microsoft Copilot kohta

Microsoft Copilot korduma kippuvad küsimused

Teave selle dokumendi kohta

© 2024 Microsoft Corporation. Kõik õigused on reserveeritud. See dokument on esitatud kujul ja ainult informatiivsel eesmärgil. Selles dokumendis väljendatud teave ja vaated (sh URL ja muud Interneti-veebisaidi viited) võivad ette teatamata muutuda. Teie vastutate selle kasutamisega kaasnevate riskide eest. Mõned näited on mõeldud ainult illustreerimiseks ja on fiktiivsed. Ükski tegelik seos pole mõeldud ega tuletatud.

See dokument ei ole mõeldud õigusnõustamiseks ja seda ei tohiks tõlgendada õigusnõustamisena. Jurisdiktsioonil, kus te töötate, võivad kehtida mitmesugused regulatiivsed või õiguslikud nõuded, mis kehtivad teie tei-süsteemile. Konsulteerige õigusspetsialistiga, kui te pole kindel, millised seadused või määrused võivad teie süsteemile kehtida, eriti kui arvate, et need võivad neid soovitusi mõjutada. Võtke arvesse, et mitte kõik need soovitused ja ressursid ei sobi iga stsenaariumi jaoks ning samas ei pruugi need soovitused ja ressursid mõne stsenaariumi puhul piisavad olla.

Avaldatud: 01.10.2024

Viimati värskendatud: 01.10.2024