AI – ETO BS

By: BRAIAN D. VASSOM

NA MOMENT NAPISANIY DANNOI STATьI OBSESTVO, POKOZE, NAKODITSY GDE-TO NA STADII CETVERTOGO SVIDANIY V SVOIK OTNOSENIYK S GENERATIVNYM ISKUSSTVENNYM INTELLEKTOM: ONO VSE ESE UVLECENO, NO NACINAET TREZVETь, CTOBY PRIZNATь, CTO OBъEKT NASIK SIMPATII MOZET OKAZATьSY NE SOVSEM DOSTOINYM NASEGO DOVERIY. VSE, KROME SAMYK YRYK ENTUZIASTOV, OSOZNALI, CTO NELьZY SCITATь SAMO SOBOI RAZUMEYSIMSY TO, CTO VSE, CTO GOVORYT NAM PRILOZENIY II, - PRAVDA. TAK, NAPRIMER, "MILYI" ChatGPT, OTVECAY NA NASI ZAPROSY, NE STESNYETSY VYDAVATь FAKTY I VYMYSLY S ODINAKOVYM RVENIEM. PREOBLADAYSIM OPISANIEM ETIK POLETOV FANTAZII YVLYETSY TERMIN "GALLYTINATIY" - ANTROPOMORFIZATIY, PODRAZUMEVAYSAY, CTO PRILOZENIE DEISTVITELьNO KOCET BYTь CESTNYM S NAMI, NO EGO NEPROIZVOLьNO SDERZIVAET SLUCAINYI SIZOFRENICESKII RAZRYV S REALьNOSTьY.

V TOI MERE, V KAKOI ETA TERMINOLOGIY PEREDAET, CTO ChatGPT NE NAMERENNO OBMANYVAET NAS, ONA VPOLNE SPRAVEDLIVA. NO ESLI SLOVO "GALLYTINATIY" PODRAZUMEVAET, CTO V OSTALьNOM PRILOZENIE GOVORIT PRAVDU, TO ONO SUSESTVENNO VVODIT V ZABLUZDENIE. KONECNO, GOVORITь OB ISKUSSTVENNOM INTELLEKTE TAK, BUDTO ON YVLYETSY CEM-TO BOLEE LICNYM, CEM SLOZNOE VZAIMODEISTVIE 1 I 0, - ETO NASA PERVAY OSIBKA I SOBSTVENNAY RAZNOVIDNOSTь VYMYSLA. V TITATE, PRIPISYVAEMOI STIVENU KOKINGU, "INTELLEKT" OPREDELYETSY KAK "SPOSOBNOSTь ADAPTIROVATьSY K IZMENENIYM". PO ETOI MERKE PROGRAMMY II DEISTVUYT RAZUMNO. IMENNO TO, CTO OTLICAET II OT OBYCNOGO PROGRAMMNOGO OBESPECENIY, - ETO SPOSOBNOSTь ADAPTIROVATь SVOI FUNKTII V OTVET NA NAKOPLENNUY OBRATNUY SVYZь, POLUCENNUY OT PREDYDUSIK VKODOV I DEISTVII. MY NAZYVAEM ETI PROTESSY "MASINNYM OBUCENIEM" ILI "GLUBOKIM OBUCENIEM", A BOLEE PRODVINUTYE RAZRABOTKI II - "NEIRONNYMI SETYMI" - VSE ETO TERMINY, ZAIMSTVOVANNYE U CELOVECESKOGO RAZUMA.

ODNAKO ETI TERMINY SKOREE ANALOGICNY, CEM TOCNY. II NE YVLYETSY I NE MOZET BYTь "INTELLEKTUALьNYM" TAK ZE, KAK CELOVECESKII MOZG, POSKOLьKU U PROGRAMMNOGO OBESPECENIY NET RAZUMA. SLOVARь Merriam Webster DAET BOLEE TOCNOE OPREDELENIE PONYTIY "INTELLEKT": "SPOSOBNOSTь K OBUCENIY ILI PONIMANIY", "UMELOE ISPOLьZOVANIE RAZUMA", "SPOSOBNOSTь PRIMENYTь ZNANIY ... ILI ABSTRAKTNO MYSLITь". MASINY NICEGO ETOGO NE UMEYT. ESLI PROGRAMMA ISKUSSTVENNOGO INTELLEKTA GENERIRUET DANNYE, KOTORYE SOOTVETSTVUYT REALьNOSTI, TO ETO SCASTLIVYI REZULьTAT USILII PROGRAMMISTA-CELOVEKA. ETI PROGRAMMISTY PODOBNY INZENERAM-STROITELYM, KOTORYE PROEKTIRUYT SLOZNUY SISTEMU PODZEMNYK TRUB S DOSTATOCNOI TOCNOSTьY, CTOBY VODA POSTUPALA TOLьKO V NUZNOE MESTO. NO PROGRAMMA ISKUSSTVENNOGO INTELLEKTA NE ZNAET, CTO ONA GOVORIT PRAVDU, TAK ZE KAK I TRUBA NE ZNAET, CTO ONA PRAVILьNO PODAET VODU, POTOMU CTO U NEE NET RAZUMA, S POMOSьY KOTOROGO MOZNO BYLO BY OPREDELITь, CTO TAKOE REALьNOSTь.

PO KRAINEI MERE, MY MOZEM UTESITьSY TEM, CTO II NE MOZET NAM LGATь. LZET - ETO TOT, KTO ZNAET PRAVDU, NO KOCET OBMANUTь SLUSATELY, ZASTAVIV EGO POVERITь V NECTO INOE. II NE MOZET "ZNATь" PRAVDU, POETOMU ON NE MOZET LGATь.

NO I "GALLYTINIROVATь" ON, STROGO GOVORY, NE MOZET: GALLYTINIROVATь - ETO VSE RAVNO VOSPRINIMATь REALьNOSTь, TOLьKO NE TU, KOTORAY ESTь NA SAMOM DELE. POETOMU, ESLI MY I DALьSE BUDEM GOVORITь OB ISKUSSTVENNOM INTELLEKTE V ANTROPOMORFNYK TERMINAK, KAK ETO KAZETSY NEIZBEZNYM, NAM SLEDUET, PO KRAINEI MERE, BYTь BOLEE TOCNYMI. UBAYKIVAY SEBY OSIBOCNYM PONIMANIEM TOGO, KAK FUNKTIONIRUET PROGRAMMNOE OBESPECENIE, MY MOZEM NEPRAVILьNO PONYTь, CTO ONO DELAET DLY NAS, I TEM SAMYM UPUSTITь KAK EGO OGRANICENIY, TAK I REALьNUY POTENTIALьNUY POLьZU. V SVYZI S ETIM Y PREDLAGAY, CTOBY NAIBOLEE TOCNYM SPOSOBOM OPISANIY REZULьTATOV RABOTY GENERATIVNYK PROGRAMM II BYLO - ISPOLьZUY ABBREVIATURU - "BS".

Y GOVORY SERьEZNO. V KNIGE 2005 GODA, STAVSEI EGO SAMOI POPULYRNOI PUBLIKATIEI, AMERIKANSKII FILOSOF GARRI G. FRANKFURT, KOTOROMU SEICAS 94 GODA, POPYTALSY DATь OPREDELENIE ETOMU CASTO ISPOLьZUEMOMU, NO MALOPONYTNOMU TERMINU. V KNIGE, OZAGLAVLENNOI " O BREKNE", UTVERZDAETSY, CTO "SUTь [BS] NE V TOM, CTO ONA LOZNA, A V TOM, CTO ONA FALьSIVA". V OTLICIE OT LZETA, KOTORYI AKTIVNO "PYTAETSY UVESTI NAS OT PRAVILьNOGO PONIMANIY REALьNOSTI", AVTORA BS "NE VOLNUET, PRAVILьNO LI OPISYVAYT REALьNOSTь TE VESI, KOTORYE ON GOVORIT. ON PROSTO VYBIRAET IK ILI PRIDUMYVAET, CTOBY SOOTVETSTVOVATь SVOEI TELI".

IMENNO TAK MOZNO OPISATь BESEDY ChatGPT S NAMI. EDINSTVENNOE RAZLICIE MEZDU CATBOTOM I CELOVEKOM-KUDOZNIKOM BS ZAKLYCAETSY V TOM, CTO CELOVEK DELAET ETO NAMERENNO. U ISKUSSTVENNOGO INTELLEKTA NAMERENII NET. NO ETO LISь PODKREPLYET OPISANIE. KAK GOVORIT FRANKFURT, "[BS] NEIZBEZEN VSYKII RAZ, KOGDA OBSTOYTELьSTVA TREBUYT, CTOBY KTO-TO GOVORIL, NE ZNAY, O CEM ON GOVORIT". POSKOLьKU ChatGPT NE MOZET ZNATь, O CEM ON GOVORIT, ON NE MOZET SKAZATь NICEGO, KROME BS.

ETO LEGCE VSEGO UVIDETь V KONTEKSTE CAT-BOTA, NO TOT ZE PRINTIP PRIMENIM KO VSEM PROYVLENIYM II. IZVESTNY SLUCAI, KOGDA DRUGIE PROGRAMMY II DAVALI REKOMENDATII PO LECENIY, OSNOVANNYE NA NETOCNYK VYVODAK, SDELANNYK NA OSNOVE NEPOLNYK DANNYK. ILI PRINIMATь RESENIY O PRIEME NA RABOTU NA OSNOVE NABOROV DANNYK, ISKAZENNYK V REZULьTATE PREDSESTVUYSEI DISKRIMINATII. ILI IDENTIFIKATIY PODOZREVAEMYK V SOVERSENII PRESTUPLENIY NA OSNOVE DANNYK RASPOZNAVANIY LIT, KOTORYE SCITYVAYT TVETNYE LITA KUZE, CEM BELYE. ILI AVTOKORREKTIY SLOV, PREVRASAYSAY NEVINNOE TEKSTOVOE SOOBSENIE V DOSADNUY OPLOSNOSTь.

NI ODIN IZ ETIK REZULьTATOV NE BYL NEIZBEZEN, I NI V ODNOM IZ NIK NET VINY SAMIK PROGRAMM. NETOCNOSTI V RABOTE II MOGUT BYTь, A ZACASTUY I BUDUT UMENьSENY ZA SCET PRIMENENIY CELOVEKOM BOLEE SOVERSENNOGO KODA - BOLEE SLOZNYK TRUB, CTOBY VODA POPADALA TOLьKO TUDA, KUDA NUZNO, I NIKUDA BOLьSE. PRI ETOM BOLьSAY CASTь UDIVLENIY I BESPOKOISTVA PO POVODU MNOGIK NAIBOLEE SOVERSENNYK PROGRAMM II ZAKLYCAETSY V TOM, CTO IK AVTORY-LYDI NE ZNAYT, KAK ONI RABOTAYT; SAM II UZE DAVNO PEREPISAL SVOI SOBSTVENNYI KOD STOLьKO RAZ, CTO EGO FUNKTII NEPONYTNY DAZE EGO SOZDATELYM. BS POROZDAET BS.

NO ETO NE ZNACIT, CTO MY NE DOLZNY PRODOLZATь RAZRABOTKU I ISPOLьZOVANIE PRILOZENII II. NAPROTIV, ESTь GENIALьNYE LYDI, RAZRABATYVAYSIE POLEZNYE, ETICNYE REALIZATII II. NELьZY OTRITATь SILU I POLEZNOSTь TAKIK IZOBRETENII, NO DO TEK POR, POKA ONI OSTAYTSY TELEVYMI INSTRUMENTAMI, A NE DOVERENNYMI SOVETNIKAMI. RESENIY NA OSNOVE II DOLZNY REALIZOVYVATьSY V DOSTATOCNO ZESTKIK RAMKAK, CTOBY KONECNYI REZULьTAT RABOTY PROGRAMMY S DOSTATOCNOI VEROYTNOSTьY SOOTVETSTVOVAL REALьNOSTI I BYL POLEZEN (POSLE PROVERKI I DORABOTKI CELOVEKOM) PO NAZNACENIY. PRIEMLEMYE PARAMETRY ZAVISYT OT KONTEKSTA. I INOGDA NEMNOGO BS MOZET BYTь POLEZNYM - NAPRIMER, ESLI ISPOLьZOVATь ChatGPT DLY MOZGOVOGO STURMA, CTOBY SDELATь VSTRECU INTERESNOI, ILI POLAGATьSY NA Midjourney DLY SOZDANIY UDIVITELьNYK I VDOKNOVLYYSIK IZOBRAZENII, DAZE ESLI LYDI NA NIK V ITOGE POLUCAYT NESKOLьKO LISNIK PALьTEV.

ODNAKO BESENAY SKOROSTь VNEDRENIY II PRAKTICESKI VO VSEK OTRASLYK EKONOMIKI ODNOVREMENNO, A TAKZE BLAGOGOVEINYI TREPET, S KOTORYM PRODAVTY I MENEDZERY SREDNEGO ZVENA GOVORYT O VOZMOZNOSTYK ETIK PRILOZENII, PO-PREZNEMU VYZYVAYT SERьEZNYE OPASENIY. DAZE ESLI CASTь NASEGO OBSESTVENNOGO SOZNANIY ZNAET, CTO NE STOIT DOVERYTь II, VSE RAVNO SLISKOM MNOGIE IZ NAS SOBLAZNYYTSY EGO "PODUSKAMI".

INSTRUMENTY NA OSNOVE II BUDUT POLEZNY DLY VSE BOLEE SIROKOGO SPEKTRA PRILOZENII, KOTORYE INFORMIRUYT I POMOGAYT CELOVEKU PRINIMATь RESENIY, NO ONI VSEGDA DOLZNY ISPOLьZOVATьSY LYDьMI, OBLADAYSIMI NEZAVISIMYM SUZDENIEM. "ISPOLNITELь [BS]... NE OTVERGAET AVTORITET ISTINY, KAK ETO DELAET LZET ..... ON VOOBSE NE OBRASAET NA NEGO VNIMANIY. V SILU ETOGO [BS] YVLYETSY BOLьSIM VRAGOM ISTINY, CEM LOZь", - PREDUPREZDAL FRANKFURT. ESLI MY POZVOLIM SEBE ILI NASIM KOMPANIYM NEKRITICNO POLAGATьSY NA GENERATIVNYI II KAK NA ISTOCNIK ISTINY, MY OB ETOM POZALEEM.