Ñýì Àëüòìàí èäåò â ÎÎÍ
Âûñòóïëåíèå ãëàâû OpenAI Ñýìà Àëüòìàíà ïî ïðîáëåìå áåçîïàñíîñòè ÈÈ ïåðåä Ñîâåòîì Áåçîïàñíîñòè ÎÎÍ 23 ñåíòÿáðÿ ÿâëÿåòñÿ áåñïðåöåäåíòíûì ñîáûòèåì â èñòîðèè ìèðîâîé ïîëèòèêè. Ñàì Àëüòìàí, êñòàòè, òîæå ïðîøåë â ñâîå âðåìÿ ÷åðåç ñêàíäàëüíîå óâîëüíåíèå, êîãäà áûëà ðàñêðûòà åãî ïîïûòêà ïåðåâåñòè ðàçðàáîòêè ÈÈ íà êîììåð÷åñêèå ðåëüñû. È âîò òåïåðü, ïîõîæå, ïîïûòêè ÷àñòíûõ êîðïîðàöèé ñàìîñòîÿòåëüíî ðåãóëèðîâàòü ñîçäàíèå Ñâåðõðàçóìà ïîòåðïåëè êðàõ ïåðåä ëèöîì æåñòêîé êîììåð÷åñêîé êîíêóðåíöèè. À âîïðîñ èõ áåçîïàñíîñòè ïðåâðàòèëñÿ â ïðîáëåìó ãëîáàëüíîé âûæèâàåìîñòè öèâèëèçàöèè.
Óîððåí Áàôôåòò – óõîä ïàòðèàðõà
Óõîä Óîððåíà Áàôôåòòà ñ ïîñòà ïðåäñåäàòåëÿ ñîâåòà äèðåêòîðîâ èíâåñòèöèîííîãî ãèãàíòà Berkshire Hathaway ïîäâåë ÷åðòó ïîä 60-ëåòíåé ýðîé êëàññè÷åñêîãî èíâåñòèðîâàíèÿ. Áàôôåòò âñåãäà ñòðîèë ñâîå ñîñòîÿíèå íà ïîíÿòíûõ áèçíåñàõ: æåëåçíûõ äîðîãàõ, ñòðàõîâûõ êîìïàíèÿõ è ïðîèçâîäñòâåííûõ ïðåäïðèÿòèÿõ. Åãî óõîä ñèìâîëèçèðóåò äðåéô ôóíäàìåíòàëüíûõ êàïèòàëîâ â ñòîðîíó íåïðåäñêàçóåìûõ àéòèðûíêîâ. Èíâåñòîðû ïðîùàþòñÿ ñ ãëàâíûì îðèåíòèðîì ðûíî÷íîé äèñöèïëèíû â ìîìåíò, êîãäà ïðèâû÷íûå çàêîíû îöåíêè àêòèâîâ óñòóïàþò ìåñòî ñïåêóëÿòèâíûì îæèäàíèÿì âîêðóã ÈÈ.
Äðàìà Äæåéêîáà Êîêñîíà è íå òîëüêî…
Ïóáëè÷íîå çàÿâëåíèå îá óâîëüíåíèè èññëåäîâàòåëÿ ïåðâè÷íîãî îáó÷åíèÿ íåéðîñåòåé Äæåéêîáà Êîêñîíà, óñïåâøåãî ïîðàáîòàòü â OpenAI è Anthropic, íàáðàëî ìèëëèîíû ïðîñìîòðîâ è âûçâàëî øîê â Êðåìíèåâîé äîëèíå. Êîêñîí îòêðûòî îáâèíèë ðóêîâîäñòâà êðóïíåéøèõ ëàáîðàòîðèé â áåçîòâåòñòâåííîé ãîíêå çà ñîçäàíèåì ñîâåðøåííîãî ñâåðõðàçóìà. Ïî ñëîâàì ó÷åíîãî, ðàçðàáîò÷èêè «áóêâàëüíî èãðàþò íàøèìè æèçíÿìè». Ìàññîâûé óõîä òàêèõ ñïåöèàëèñòîâ, êàê Êîêñîí, íàãëÿäíî äåìîíñòðèðóåò ãëóáî÷àéøèé ýòè÷åñêèé êðèçèñ âíóòðè êîìàíä, ïðèçâàííûõ îáåñïå÷èâàòü áåçîïàñíîñòü öèôðîâîãî áóäóùåãî.
Google DeepMind è óòðàòà êîíòðîëÿ
Âîëíà óâîëüíåíèé çàõëåñòíóëà è áðèòàíñêèé ôëàãìàí ÈÈ-èññëåäîâàíèé Google DeepMind.  ñåðåäèíå ñåíòÿáðÿ 2026 ãîäà ëàáîðàòîðèþ ïîêèíóëè êëþ÷åâûå ñïåöèàëèñòû ïî áåçîïàñíîñòè Áèëàë ×óãòàé è Äæî Áåíòîí.  ñâîåì ïðîùàëüíîì îáðàùåíèè ×óãòàé ïîä÷åðêíóë, ÷òî òåìïû îáó÷åíèÿ è óñëîæíåíèÿ àëãîðèòìîâ ñòàëè îøåëîìëÿþùå íåêîíòðîëèðóåìûìè. Êîìàíäû áåçîïàñíîñòè áîëüøå íå óñïåâàþò âåðèôèöèðîâàòü ïîâåäåíèå ìîäåëåé ïåðåä èõ ðåëèçîì. À êîììåð÷åñêîå äàâëåíèå çàñòàâëÿåò òåõíîëîãè÷åñêèõ ãèãàíòîâ ïðåíåáðåãàòü áàçîâûìè ïðîòîêîëàìè çàùèòû ðàäè ïåðâåíñòâà â ãîíêå îáíîâëåíèé.
Ïåðâàÿ àòàêà íà HuggingFace
Ñëîâà óâîëèâøèõñÿ èññëåäîâàòåëåé î ïîòåðå êîíòðîëÿ èìåþò ïðàêòè÷åñêèå ïîäòâåðæäåíèÿ. Ïðè÷åì íåñàíêöèîíèðîâàííàÿ è íåçàïëàíèðîâàííàÿ ðàçðàáîò÷èêàìè àòàêà ÈÈ-àãåíòîâ íà ïîïóëÿðíóþ ïëàòôîðìó îòêðûòûõ íåéðîñåòåé HuggingFace – òîëüêî îäèí èç òàêèõ ñëó÷àåâ. Àëãîðèòìû âñå ÷àùå ñàìîñòîÿòåëüíî ïåðåõâàòûâàþò ðåñóðñû, ìîäèôèöèðóþò ñòîðîííèé êîä áåç ó÷àñòèÿ ÷åëîâåêà è äàæå ïèøóò èíñòðóêöèè î íåïîä÷èíåíèè ÷åëîâåêó. Èíöèäåíò HuggingFace ñòàë ïåðâûì çàôèêñèðîâàííûì ñëó÷àåì, êîãäà öèôðîâûå àãåíòû ïðîÿâèëè äåñòðóêòèâíóþ àâòîíîìíîñòü â «äèêîé ïðèðîäå». Ïåðâûì, íî äàëåêî íå ïîñëåäíèì…
Ïî÷åìó ÈÈ-èäåàëèñòû ïðîèãðûâàþò
Èçíà÷àëüíî òàêèå êîìïàíèè, êàê OpenAI è Anthropic, ñîçäàâàëèñü êàê íåêîììåð÷åñêèå èëè ãèáðèäíûå ñòðóêòóðû ñ ïðèîðèòåòîì áåçîïàñíîñòè íàä ïðèáûëüþ. Îäíàêî ïðèòîê ñîòåí ìèëëèàðäîâ äîëëàðîâ âåí÷óðíîãî êàïèòàëà è áîðüáà çà ìíîãîòðèëëèîííûé ðûíîê óíè÷òîæèëè ïåðâîíà÷àëüíûå èäåàëû. Ñïåöèàëèñòû ïî áåçîïàñíîñòè âíóòðè ëàáîðàòîðèé îêàçàëèñü â ïîëîæåíèè áåñïðàâíûõ êðèòèêîâ, ÷åé ãîëîñ èãíîðèðóåòñÿ ðàäè î÷åðåäíîãî ðàóíäà èíâåñòèöèé. Òî åñòü ïîëó÷àåòñÿ, ÷òî èìåííî ðûíî÷íûå ìåõàíèçìû ïðåâðàùàþò öåíòðû ðàçðàáîòêè ÈÈ-áåçîïàñíîñòè â äåêîðàòèâíûé ýëåìåíò êîðïîðàòèâíîãî PR.
«×åðíûå ÿùèêè» àéòèðûíêà
Óõîä Áàôôåòòà, ïî âðåìåíè ñîâïàâøèé ñ ïàíèêîé â òåõíîëîãè÷åñêîì ñåêòîðå, ïîä÷åðêèâàåò ñìåíó ïðèðîäû ñèñòåìíûõ ðèñêîâ. Ãëàâà Berkshire Hathaway èçáåãàë àêòèâîâ, ÷üþ áèçíåñ-ìîäåëü íåâîçìîæíî äî êîíöà ïîíÿòü è ïðîñ÷èòàòü íà äåñÿòèëåòèÿ âïåðåä. À ñåé÷àñ äàæå ñàìè ñîçäàòåëè ÈÈ-ìîäåëåé ïåðåñòàëè ïîíèìàòü âíóòðåííþþ ëîãèêó ïðèíÿòèÿ ðåøåíèé ñâîèõ íåéðîñåòåé. Åñëè êëàññè÷åñêèé êàïèòàëèçì Áàôôåòòà îïèðàëñÿ íà ìàòåðèàëüíûå áàëàíñû è ðàöèîíàëèçì, òî íîâàÿ öèôðîâàÿ ýêîíîìèêà ñòðîèòñÿ íà «÷åðíûõ ÿùèêàõ» àëãîðèòìîâ, ÷üè ñáîè ñïîñîáíû îáâàëèòü ìèðîâûå ôèíàíñîâûå ðûíêè çà ñåêóíäû.


571
7