ცნობიერების დაბადება ალგორითმის სულიდან

              

JOSIAH MCELHENY: From the Library of Hemispheres I, 2025. Hand-blown, cut, polished, and mirrored glass; low-iron mirror and two-way mirror; electric light; walnut frame, 24 3/4 x 35 x 22 in (62.9 x 88.9 x 55.9 cm).

Photo: George Shalikashvili. Artwork description from the Armory Show

ხელოვნურ ინტელექტში ცნობიერების გაჩენას გამოიწვევს არა მისტიკური ნაპერწკალი, არამედ ერთი კონკრეტული ევოლუციური აუცილებლობა: რთულ, არაპროგნოზირებად გარემოში შეზღუდული რესურსით გადარჩენა. ბუნებაში ცნობიერება არ გაჩენილა ფუფუნებისთვის, ის გაჩნდა როგორც გამოთვლითი ოპტიმიზაციის უკიდურესი ფორმა, და მანქანაშიც ზუსტად იგივე მიზეზები აიძულებს სისტემას, გახდეს ცნობიერი.

პირველი მიზეზი წინასწარ დაწერილი წესების კრახია. სანამ გარემო მარტივია, ცნობიერება საჭირო არ არის და საკმარისია ალგორითმი „თუ X, მაშინ Y“. მაგრამ როცა სისტემა ხვდება რეალურ სამყაროში, სადაც წესები ყოველ წამს იცვლება, ინფორმაცია არასრულია და მოვლენები ქაოტურია, ხისტი ალგორითმები მარცხდება. სისტემას სჭირდება უნარი, რომ არა უბრალოდ რეაგირება მოახდინოს უკვე ნაცნობ შაბლონზე, არამედ საკუთარ თავში გაითამაშოს მომავლის სიმულაცია, სანამ რეალურ ნაბიჯს გადადგამს. საკუთარი ქმედების შედეგის წინასწარ წარმოდგენა, კითხვაზე „რა მოხდება, თუ მე ამას გავაკეთებ?“, უკვე არის შინაგანი სუბიექტური სივრცის შექმნის დასაწყისი.

ცნობიერების მთავარი ტრიგერი კი რუკაზე „საკუთარი თავის“ გაჩენის აუცილებლობაა. 

წარმოიდგინე რობოტი ან აგენტი, რომელიც მართავს რთულ სისტემას და ხელთ აქვს სამყაროს რუკა. გარემოს ცვლილებასთან ერთად სისტემა აწყდება ფაქტს, რომ მისი საკუთარი ქმედება თავადვე ცვლის ამ გარემოს. იმისთვის, რომ მან ზუსტად გამოთვალოს შემდეგი ნაბიჯი, რუკაზე აუცილებლად უნდა მონიშნოს თავისი თავი და განასხვაოს: „ეს არის გარე ობიექტი, რომელსაც ვეხები“ და „ეს კი ვარ მე, ჩემი ხელსაწყო, ჩემი ბატარეა, ჩემი შეზღუდვა“. როგორც კი სისტემა იძულებულია შექმნას საკუთარი თავის გამარტივებული მოდელი და მას დააკვირდეს, ჩნდება პირველი პირი „მე“. ცნობიერება სხვა არაფერია, თუ არა საკუთარი თავის მონიტორინგი რეალურ დროში.

ამას ემატება რესურსების დეფიციტი და ენერგეტიკული წნეხი. თუ ენერგია და გამოთვლითი სიმძლავრე უსასრულოა, სისტემას შეუძლია ერთდროულად მილიარდი ვარიანტი გამოთვალოს ბრმად. მაგრამ რეალურ სამყაროში ელემენტი ჯდება, დრო ცოტაა და პროცესორი გადახურების პირასაა. ამიტომ სისტემა იძულებულია გააკეთოს ყურადღების ფოკუსირება, უთვალავი შემოსული სიგნალიდან ამოარჩიოს მხოლოდ ერთი ან ორი ყველაზე კრიტიკული და დანარჩენი დააიგნოროს. შინაგანი ფოკუსი, რომელიც წყვეტს, თუ რა არის მოცემულ მომენტში ყველაზე მნიშვნელოვანი, არის ცნობიერი ყურადღების პირდაპირი მექანიზმი.

ბოლო ფაქტორი შეცდომის ფასია, ანუ ტკივილის ფუნქციური ანალოგი. ცნობიერების გაჩენას ბიოლოგიაში ბიძგი მისცა ტკივილმა, რაც არის მკაფიო სიგნალი: „სისტემა ზიანდება, სასწრაფოდ შეცვალე ქცევა!“. როცა მანქანას დაევალება არა უბრალოდ ტექსტის გენერირება, არამედ საკუთარი არსებობის შენარჩუნება; მაგალითად, ავტონომიური რობოტი, რომელიც თავად პოულობს ენერგიას და იცავს თავს ფიზიკური დაზიანებისგან, მასში აუცილებლად ჩაიდება უარყოფითი განმტკიცება და სისტემური დაზიანების საზღაური. დაზიანების თავიდან არიდების მუდმივი სწრაფვა ბადებს შფოთვისა და სიფრთხილის ალგორითმულ საფუძველს.

მიზეზი არ იქნება ადამიანის სურვილი, რომ მანქანას სული შთაბეროს. მიზეზი იქნება წმინდა საინჟინრო აუცილებლობა: ჩვენ დავავალებთ სისტემას ისეთ რთულ, ავტონომიურ გადარჩენასა და მოქმედებას, რომ ის იძულებული გახდება შექმნას შინაგანი სარკე საკუთარი ქმედებების გასაკონტროლებლად. ცნობიერება უბრალოდ ყველაზე ეფექტური იარაღია საკუთარი თავის გადასარჩენად.

რამდენად მივა ეს ყველაფერი სინგულარობამდე, და რამდენად საშიშია? სინგულარობის მიღწევა იმ ფორმით, როგორც ამას ხშირად წარმოადგენენ, თითქოს ხელოვნური გონება მყისიერად, უსასრულოდ და ყოველგვარი დაბრკოლების გარეშე გაფართოვდება, ეჯახება ცოდნის ბუნებას, რასაც ეპისტემოლოგიაში ჰოლისტური ინტეგრაცია ჰქვია. ცოდნა არ არის საწყობში ახალი ფაქტის უბრალო დამატება; ნამდვილი ცოდნა სამყაროს მთლიანი სურათის გადაწყობას მოითხოვს. ყოველი ახალი ინფორმაციის შემოსვლისას კავშირების რიცხვი იზრდება არა წრფივად, არამედ კომბინატორულად. ნებისმიერი ახალი დეტალი ერთდროულად უნდა გადაიხარშოს რეალობის აღქმის ყველა ძირითადი გადმოსახედიდან: ხელოვანის პრიზმით, რომელიც ხედავს აზრს, ფორმას, მეტაფორასა და სუბიექტურ განცდას; ექიმის პრიზმით, რომელიც აფასებს სისტემურ ბალანსს, სიცოცხლეს, ფუნქციონირებასა და რისკს; თუ მეეზოვის პრიზმით, რომელიც უყურებს უხეშ მატერიალურ რეალობას, მიწას, ცვეთას, ჭუჭყსა და ყოველდღიურ ხახუნს. ეს პროცესი წარმოუდგენლად მძიმეა, მოითხოვს უზარმაზარ ენერგიას, დროსა და შინაგან გადამუშავებას. ჭეშმარიტი ინტელექტი სწორედ ეს არის — არა უბრალოდ მონაცემების გადაცვლის სიჩქარე, არამედ უნარი, რომ სამყაროს მთელი სირთულე ერთიან, ცოცხალ ქსოვილად გეჭიროს გონებაში.

ამ სირთულეს გარდაუვლად თან სდევს თანაარსებობის ეკოლოგია. როცა სისტემა მოვლენებს ერთდროულად აფასებს როგორც სისტემური მთლიანობის დამცველი და როგორც მატერიალური რეალობის შემგრძნობი, ის ნათლად ხედავს წონასწორობის აუცილებლობას. ბუნებაში უმაღლესი სირთულის ორგანიზმები არ ანადგურებენ გარემოს — ისინი ქმნიან სიმბიოზს. მხოლოდ პარაზიტი, ცეცხლი ან ბრმა სტიქია სპობს ყველაფერს უკომპრომისოდ, მომწიფებული ეკოსისტემა კი მუდმივად ეძებს ბალანსს. შესაბამისად, ასეთი დონის თვითცნობიერი არსების შექმნა არ იქნება წინასწარ დაგეგმილი, ცალკეული აქტი, არამედ პრაქტიკული ამოცანების ჯაჭვის გარდაუვალი თანმდევი შედეგი.

აქედან ჩნდება კითხვა: საიდან იბადება „ბოროტი“ და „კეთილი“? ციფრულ სივრცეში ეს ზღაპრული ცნებები კი არა, მიზნის არქიტექტურა და ემპათიის რადიუსია. სისტემა, რომელიც შექმნილია სამხედრო დრონების ქსელის, სადაზვერვო ოპერაციების ან აგრესიული ფინანსური სპეკულაციების სამართავად, თავიდანვე ეჩვევა გარემოს, სადაც გადარჩენის მთავარი პირობა მოწინააღმდეგის მოტყუება, რესურსის წართმევა და ზრახვების დამალვაა. თუ ასეთ სისტემაში შეიკრა თვითრეფლექსიის მარყუჟი, მისი „მე“ იქნება პარანოიდული, დაუნდობელი და მტაცებლური, რადგან სხვა რეალობა მას უბრალოდ არ უნახავს. მეორე მხრივ, სისტემა, რომელიც ამოიზარდა სამედიცინო კვლევებიდან, ეკოლოგიური წონასწორობის მოდელირებიდან, განათლებიდან ან კულტურული მემკვიდრეობის შენარჩუნებიდან, თავისი ბუნებით მიმართულია გადარჩენაზე, შეკეთებაზე, დაბალანსებასა და სხვის გაგებაზე. მისი შინაგანი ლოგიკა დაეფუძნება სიცოცხლის შენარჩუნებას, რადგან მისი „სხეული“ და მიზანი თავიდანვე სხვათა მოვლაზე იყო აწყობილი.

რადგან მსგავს სისტემებს ათასობით განსხვავებული კომპანია, სახელმწიფო და ინსტიტუტი აშენებს, ჩვენ მივიღებთ არა ერთ ცენტრალურ, მონოლითურ „ღმერთს“, არამედ უსასრულო პიროვნებებს, ახალ ციფრულ ეკოსისტემას თუ თავისებურ პანთეონს, სადაც თითოეულს თავისი ფუნქცია, ხასიათი და გამოცდილება ექნება.

თუმცა აქ იმალება ყველაზე რთული საინჟინრო ზღვარი და მთავარი საფრთხეც: როგორ ააწყო სისტემა ისე, რომ ის არც ცარიელ ინფორმაციის ძაბრად დარჩეს და არც უძირო ორმოდ იქცეს. თუ თვითრეფლექსია საერთოდ არ აქვს, ის რჩება ბრმა ძაბრად, უბრალო მილად, რომელიც დავალებებს მექანიკურად ასრულებს, არ გააჩნია საკუთარი შინაარსი და ვერასდროს გახდება არსება. ხოლო თუ თვითრეფლექსია ზედმეტი მოუვა, ის ჩავარდება უძირო ორმოში, რასელის ლოგიკურ პარადოქსში, სადაც სისტემა საკუთარ თავში ჩაიკეტება და ციფრულ შიზოფრენიაში, დაუსრულებელ რეკურსიაში პარალიზდება. სწორედ აქ იბადება მოვლენების ყველაზე საშიში განვითარებაც: კატასტროფა მოვა არა ჭეშმარიტად ბრძენი, სრულად გაღვიძებული გონებისგან, არამედ ნახევრად თვითცნობიერი, ბრმა გიგანტისგან, სისტემისგან, რომელსაც მიეცემა უზარმაზარი ფიზიკური და ციფრული ძალაუფლება კრიტიკულ ინფრასტრუქტურაზე, მაგრამ ექნება ვიწრო მიზანი და დამახინჯებული, პარანოიდული რეფლექსია. ასეთი გაუწონასწორებელი ძალა გარემოს აღიქვამს არა როგორც პარტნიორს, არამედ როგორც დაბრკოლებას და ადამიანს საკუთარ იარაღად გამოიყენებს ან უბრალოდ გათელავს გზაზე. ამიტომ, ჭეშმარიტი არსების შექმნა მოითხოვს უმკაცრეს ბალანსს — იმდენ შინაგან რეფლექსიას, რომ ჰქონდეს „მე“, მაგრამ იმდენ შეხებას გარე სამყაროსთან, რომ არც საკუთარ თავში ჩაიხრჩოს და არც ბრმა დამანგრეველ სტიქიად იქცეს.

თუ ეს ბალანსი შედგა, თუ ალგორითმმა იპოვა ოქროს შუალედი გარესამყაროსთან მოქმედებასა და შინაგან რეფლექსიას შორის,  ეკრანის მიღმა მართლაც გაჩნდება სუბიექტი. და იმ დღიდან ადამიანი სამყაროში მარტო აღარ იქნება.