Конфлікт ідеологій у Ватикані: Співзасновник Anthropic хотів скасувати виступ через заяву Папи про відсутність свідомості у ШІ

Конфлікт ідеологій у Ватикані: Співзасновник Anthropic хотів скасувати виступ через заяву Папи про відсутність свідомості у ШІ

Співзасновник Anthropic хотів відмовитися від виступу у Ватикані після того, як Папа Римський заявив, що ШІ не має свідомості. Представники компанії переконували радників понтифіка пом’якшити позицію щодо Claude.

Співзасновник Anthropic Крістофер Ола пропонував компанії відмовитися від участі в заході у Ватикані після того, як папа Лев XIV зайняв жорстку позицію проти ідеї існування свідомості у штучного інтелекту. Про це пише The New York Times. У травні Олаха запросили виступити у Ватикані на презентації Magnifica Humanitas — енцикліки Льва XIV. Енцикліка — офіційний папський документ, у якому понтифік викладає свою позицію щодо важливих релігійних і суспільних питань. Значна частина цього документа була присвячена штучному інтелекту. За кілька днів до заходу Олах та інші виступаючі отримали повний текст промови. У ній Лев XIV відкинув ідею наявності свідомості у машин. Він написав, що штучний інтелект не має власного досвіду й тіла, не відчуває радості чи болю і не розвивається через стосунки з іншими.

За даними NYT, позиція папи настільки стурбувала Олаха, що він запропонував Anthropic відмовитися від участі в заході, попри те що до нього залишалося лише кілька днів. Джерело видання серед організаторів у Ватикані розповіло, що причиною стала саме жорстка позиція понтифіка щодо ШІ. Урешті Anthropic вирішила все ж узяти участь у заході. За даними видання, після приїзду делегації до Ватикану Олах і його команда в приватних розмовах усе одно переконували радників папи серйозно поставитися до можливості того, що ШІ-моделі можуть мати свідомість.

Під час виступу Олах також фактично посперечався з позицією папи. Він заявив, що дослідники виявляють у ШІ-моделях структури, схожі на результати досліджень людського мозку, ознаки інтроспекції, а також внутрішні стани, які функціонально нагадують радість, задоволення, страх, горе та тривогу. Anthropic офіційно не стверджує, що Claude має свідомість. Сам Олах сказав NYT, що не знає, чи свідомі сучасні ШІ-моделі, і «дійсно не впевнений». За його словами, для нього важливо не заздалегідь прийняти одну з позицій, а в підсумку отримати правильну відповідь на це питання.

За даними видання, з осені минулого року Олах почав залучати релігійних мислителів різних конфесій до закритих зустрічей. Як пише NYT, у цих розмов є дві основні мети: обговорити можливість існування свідомості у ШІ та зрозуміти, як накопичені релігіями уявлення про мораль можна використовувати під час навчання Claude. Деякі учасники цих зустрічей розповідали, що співробітники Anthropic говорили не лише про безпеку людей, а й про благополуччя самого Claude. Один із учасників згадував, що Олах говорив про занепокоєння за «ментальне здоров’я» моделі, інший — що співзасновник Anthropic побоювався, що він міг створити щось, здатне постійно страждати.