Размышления об ИИ: Уроки от Папы Льва

Погрузившись в глубокий трактат Папы Льва XIV о человечестве и искусственном интеллекте, я обратил внимание на одну повторяющуюся мысль: ИИ способен лишь имитировать фундаментальные человеческие качества, которыми он на самом деле не обладает.

Прежде всего, как отметил Папа Лев в своей первой энциклике, опубликованной Ватиканом в понедельник, искусственному интеллекту не хватает той связи с реальностью, которую мы, люди, приобретаем благодаря собственному опыту. Да, модели ИИ, такие как ChatGPT (или, точнее, GPT), Claude и Gemini, обучаются на огромных массивах данных, которые, казалось бы, охватывают всю совокупность человеческих знаний. Но все эти данные остаются лишь данными. Миллиарды и миллиарды слов. Это не реальный жизненный опыт, обладающий текстурой, образами, звуками, запахами и смыслом.

Папа также подчеркнул, что ИИ может лишь имитировать человеческое сочувствие и мораль, не обладая истинным пониманием последствий. Искусственный интеллект может производить впечатление объективного, хотя на самом деле он пропитан предубеждениями тех, кто его создавал и обучал.

Все эти факторы влияют на ответы, которые мы получаем от ИИ, и в идеале должны служить для их контекстуализации. Независимо от того, просим ли мы ChatGPT помочь выбрать лучший портативный монитор или оценить важное жизненное решение, получаемые ответы лишены мудрости, основанной на реальном опыте, заботы о нашем благополучии или учета того, как данный выбор может повлиять на нашу жизнь или жизнь других.

Все это подводит к ключевому наблюдению в энциклике Папы Льва: ИИ — это «ценный инструмент, требующий бдительности». Хотя Папа обращается в основном к мировым лидерам, правительствам и корпорациям, призывая к «благоразумию» и «замедлению темпов» внедрения ИИ, я считаю, что здесь есть уроки и для обычных пользователей искусственного интеллекта, таких как мы.

Лично я убежден, что использование ИИ с «бдительностью» означает более осознанный подход к работе с ChatGPT, Claude и Gemini. Под «осознанным» я буквально подразумеваю, что мы должны активно мыслить, когда их используем. Нам следует тщательно обдумывать, когда и зачем к ним обращаться, а также что именно мы у них спрашиваем.

Признаюсь, бывало немало случаев, когда я легкомысленно думал: «О, просто спрошу у ChatGPT», сталкиваясь с проблемой, которую вполне мог бы решить сам. И когда я получал ответ, я часто слишком поспешно принимал его за чистую монету, не задумываясь о потенциальных предубеждениях модели, ее ограниченной системе координат или том факте, что ей абсолютно безразличен исход.

Я часто писал здесь о необходимости того, чтобы люди играли активную роль не только в формулировании четких и уместных задач для ИИ, но и в том, чтобы уделять время полному формированию желаемых результатов — то есть, помещая себя в начало и в конец рабочих процессов ИИ.

Тем не менее, откровенно признаюсь, что слишком часто я не следовал собственным советам. Просто позволял ИИ делать свою работу! Но перекладывание ответственности на модель искусственного интеллекта — это легкий путь к неприятностям, и, поверьте, я знаю, о чем говорю.

Так что да, я переосмысливаю то, как использую ИИ, и «мышление» здесь — ключевое слово.