21 авг 2023 · 19:32
{"document": [{"text": [{"type": "attachment", "attributes": {"caption": "Фото из интернета", "presentation": "gallery"}, "attachment": {"caption": "", "contentType": "image/jpeg", "filename": "1692596804509 1.jpg", "filesize": 179088, "height": 741, "pic_id": 675800, "url": "https://storage.yandexcloud.net/pabliko.files/article_cloud_image/2023/08/21/1692596804509_1.jpeg", "width": 1025}}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "Инес Хиполито, профессор философии искусственного интеллекта Университета Маккуори (Сидней), в интервью канклу"}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "Начало 2023 года ознаменовалось запуском ChatGPT, приложения искусственного интеллекта OpenAI. За два месяца оно охватило более 100 млн. пользователей и породило целый шквал футуристических новостей и статей. Возможно, затерявшись на фоне технологического прогресса и разрушительного потенциала, дискуссия о рисках привлекла меньше внимания. "}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "Инес Хиполито - профессор философии искусственного интеллекта в Университете Маккуори в Сиднее, уделяет особое внимание вопросам этики и многообразия. В интервью она рассказывает о том, как эти языковые модели воспроизводят доминирующие нарративы и могут усугублять проблемы недостаточной репрезентативности, предупреждая о необходимости регулирования этого явления."}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": ""}, {"type": "string", "attributes": {"italic": true}, "string": "Искусственный интеллект неожиданно вошел в общественную дискуссию. Каково состояние разработок и исследований основных языковых моделей?"}], "attributes": []}, {"text": [{"type": "string", "attributes": {"italic": true}, "string": ""}, {"type": "string", "attributes": {}, "string": "Искусственный интеллект (ИИ) развивается уже давно. Но поскольку он связан с кулуарной работой, люди не так сильно его осознают, хотя он постоянно присутствует в нашей жизни. Именно с появлением ChatGPT ситуация изменилась, поскольку впервые ИИ стал доступен в явном, бесплатном и персонализированном виде. Я часто сравниваю это с революцией в Интернете или мобильной связи. Люди получили доступ к технологиям, которые меняют их поведение и психологические отношения с различными сферами их жизни, в том числе и с профессиональной. Это делает их более заинтересованными и более бдительными."}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": ""}, {"type": "string", "attributes": {"italic": true}, "string": "Когда появился ChatGPT, было много разговоров о радикальных изменениях, в частности на рынке труда. Есть ли области, где мы уже ощущаем эти последствия?"}], "attributes": []}, {"text": [{"type": "string", "attributes": {"italic": true}, "string": ""}, {"type": "string", "attributes": {}, "string": "Одной из областей, где очень хорошо видно, что он оказал немедленное влияние, является образование. ChatGPT и великолепные языковые модели обладают феноменальной способностью проходить сложные тесты, причем так, что даже превосходят лучших студентов. В наших учебных подразделениях мы обсуждали, как лучше поступить с ChatGPT, потому что студенты начинают использовать его в своей работе, и очень трудно понять, какая часть работы действительно выполнена студентами. Возможно ли, чтобы студенты использовали ChatGPT таким образом, чтобы это способствовало расширению их знаний, или нам следует полностью запретить его использование? Этот вопрос не теряет своей актуальности в университетах."}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "Некоторые из достигнутых нами социальных успехов могут быть обращены вспять или замедлены, если ролевые модели будут отражать и распространять эти доминирующие нарративы, укрепляя стереотипы."}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": ""}, {"type": "string", "attributes": {"italic": true}, "string": "Переходя к Вашей области исследований, основной вопрос: сможет ли когда-нибудь алгоритм быть нейтральным?"}], "attributes": []}, {"text": [{"type": "string", "attributes": {"italic": true}, "string": ""}, {"type": "string", "attributes": {}, "string": "Я думаю, что это будет очень сложно. Аргумент о нейтральности технологий, как правило, выгоден рынкам, поскольку именно этого хотят технологические компании - внедрять инновации без регулирования со стороны государства или международных институтов. Эти споры тем более оживленны, что технологии узнают о нас, хранят данные, меняются и подстраиваются под наше поведение. Даже на уровне развития мы видим, что проблемы, которым мы хотим посвятить свое время, энергию и средства, определяются доминирующим нарративом. И этот нарратив - западный. И тогда все проектирование, разработка и внедрение ИИ программируется группами, не отличающимися большим разнообразием."}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": ""}, {"type": "string", "attributes": {"italic": true}, "string": "А какие предубеждения или предрассудки вызывают наибольшее беспокойство? На какие из них мы должны обращать больше внимания, поскольку они проявляются в ответах этих языковых моделей?"}], "attributes": []}, {"text": [{"type": "string", "attributes": {"italic": true}, "string": ""}, {"type": "string", "attributes": {}, "string": "Языковая модель повторяет доминирующий нарратив. Некоторые из социальных достижений, которых мы достигли, могут быть обращены вспять или замедлены, если модели будут фиксировать и распространять эти доминирующие нарративы, усиливая стереотипы."}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "Но о каких нарративах идет речь? Расовые проблемы, культурные проблемы, сексизм, гендерные роли?"}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "Мы говорим о социальных иерархиях и сегрегации, которые могут иметь несколько уровней, как вы перечислили. Они могут быть расовыми, гендерными, всех групп, входящих в так называемые меньшинства, которые, как правило, меньше представлены в науке и технике, меньше присутствуют в учебниках, премиях... Когда мы анализируем историю различных областей знания - науки, философии, литературы - определенные группы представлены недостаточно. Эти замечательные языковые модели будут пропагандировать эту недостаточную представленность. В ChatGPT существует тенденция описывать явление, представляющее научный интерес, путем простого перечисления работ, выполненных в рамках доминирующего нарратива. Это касается всех областей - литературы, искусства, науки, техники…"}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": ""}, {"type": "string", "attributes": {"italic": true}, "string": "Не кроется ли часть проблемы прямо в источнике информации ИИ? Нет ли здесь недостаточной представленности языков и культур?"}], "attributes": []}, {"text": [{"type": "string", "attributes": {"italic": true}, "string": ""}, {"type": "string", "attributes": {}, "string": "Конечно, есть. Большая часть научных и технологических разработок уже ведется на английском языке. Получая больше знаний на английском языке, ChatGPT будет иметь недопредставленность знаний, полученных, например, в университетах Африки, Южной Америки или Азии. Все, что не относится к англосаксонскому миру. "}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "Как исправить этот перекос в алгоритме? OpenAI наложил ограничения на то, что может сказать ChatGPT, но есть ли более конструктивное решение, кроме как запретить модели отвечать? Только за счет расширения базы обучения?"}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "Это практически невозможно. Технология - это не просто зеркало того, кто мы есть, это источник. Как мы могли бы улучшить это взаимодействие, не прибегая к правилам сверху вниз? Идеальным вариантом было бы создание менее сегрегированного и более инклюзивного общества. В этом смысле очень важно - и не завтра - инвестировать в образование. Особенно для людей, занимающихся разработкой ИИ. Я участвую в одной из программ по ИИ в Сиднейском университете, и этика - одна из самых важных составляющих. Включение этических проблем в учебный процесс делает их столь же или более актуальными, чем обучение программированию."}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": ""}, {"type": "string", "attributes": {"italic": true}, "string": "Если компании продолжат ограничивать ответы ИИ, не рискуем ли мы получить в итоге более консервативное и неинтересное информационное производство?"}], "attributes": []}, {"text": [{"type": "string", "attributes": {"italic": true}, "string": ""}, {"type": "string", "attributes": {}, "string": "Возможно. "}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "У нас есть сообщения о том, что ChatGPT становится менее интеллектуальным. Другой вопрос - регулирование. Кто должен регулировать этические нормы или кто должен устанавливать эти ограничения?"}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "Государство?"}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "Недавно генеральный директор Google предложил, чтобы регулированием занимались компании, что удивительно, учитывая конфликт интересов. Нерегулирование хорошо для рынков, но оно не защищает пользователей. А пользователи, подверженные наибольшему риску, находятся в наиболее уязвимом положении. Кто должен регулировать? Больше всего в этой области сделал Евросоюз, значительно отстают США и Австралия. Но мы вступаем в новую эпоху, и нам необходимо срочно рассмотреть это новое обстоятельство. Я бы сказала, почти так же срочно, как в случае с глобальным потеплением и экологическим кризисом. В этой области созданы глобальные структуры, которые объединяют людей под одним зонтиком для диалога и принятия решений."}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "Если большая часть критической массы будет создана за счет искусственного интеллекта, то мы застрянем в петле, где прогресс будет идти медленнее."}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "То же самое произошло с ядерным оружием и геномом человека. Следует ли приравнивать это к тем моментам?"}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "На мой взгляд, да. Нам необходимо создать глобальную организацию. Государствам и правительствам потребуется много времени, они не готовы. У них нет знаний, чтобы вмешаться, и пока этого не произойдет, будут огромные социальные последствия. Это повлияет не только на повседневную работу людей - которая вскоре изменится, - но и на их гражданское воспитание."}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": ""}, {"type": "string", "attributes": {"italic": true}, "string": "Возникает дилемма: действительно ли Вы согласны с тем, что, например, китайское государство не будет этого делать? Или это аргумент, который могут использовать компании?"}], "attributes": []}, {"text": [{"type": "string", "attributes": {"italic": true}, "string": ""}, {"type": "string", "attributes": {}, "string": "Так было всегда. Во время разработки атомной бомбы Эйнштейн сказал, что он сожалеет о том, что консультировал американское правительство. В случае с ИИ мы видим, что эта история повторяется. И сейчас мы говорим об активной технологии, которая собирает информацию и создает петлю обратной связи, влияющую на то, как мы живем. Это интересно для технологических компаний, потому что будет генерировать больше капитала и богатства. Может случиться так, что миром будут править ИИ-миллионеры."}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": ""}, {"type": "string", "attributes": {"italic": true}, "string": "Эти языковые модели производят большое количество информации. Эволюция может быть экспоненциальной, что означает, что ИИ начнет сметать то, что он создал. Как это отразится на качестве контента, созданного ИИ?"}], "attributes": []}, {"text": [{"type": "string", "attributes": {"italic": true}, "string": ""}, {"type": "string", "attributes": {}, "string": "Ужасно. Это означает, что у нас будет меньше эволюции знаний. Это переработка тех знаний, которые уже существуют в мире. Что движет знаниями вперед, так это креативность, нестандартное мышление, новые перспективы. Наука развивается путем революций, и это происходит очень медленно, потому что мы склонны придерживаться своих парадигм. Так уже происходит с самыми яркими и креативными умами в академических и промышленных кругах. Если большая часть критической массы будет создана за счет ИИ, мы застрянем в петле, где прогресс будет идти медленнее."}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": ""}, {"type": "string", "attributes": {"italic": true}, "string": "Вы упомянули о творчестве. Является ли этот ИИ интеллектуальным? Большая часть моей работы заключается в сборе информации, работе с ней и ее синтезе. Не переоцениваем ли мы свой интеллект?"}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "Это зависит от того, как мы определяем интеллект. Если он выполняет определенные задачи, то мы должны сделать вывод, что он интеллектуален. Если мы изолируем задачи, то многие системы уже являются интеллектуальными. Но если интеллект - это взаимодействие с постоянно меняющимся внешним миром, в котором нам приходится ориентироваться и справляться с неожиданностями - причем критически - то ChatGPT не интеллект. Например, в нашем взаимодействии происходит считывание смыслов, не выраженных в языке."}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": ""}, {"type": "string", "attributes": {"italic": true}, "string": "Не смотрим ли мы на эти явления слишком детерминированно? Мы говорим об ИИ так, как будто он уже здесь и у нас, как у общества, нет выбора, как поступить с алгоритмами."}], "attributes": []}, {"text": [{"type": "string", "attributes": {}, "string": "Мы слишком пассивны, но это также связано с маркетинговыми кампаниями вокруг этих технологий. Огромная шумиха порождает фаталистическую идею о том, что мы ничего не можем сделать, что мы не властны над ИИ. Это благоприятные обстоятельства для компаний. Понятие контроля ставится под сомнение, поэтому люди не мобилизуются и не задумываются критически о последствиях. Главное, чтобы эта технология развивалась без ограничений. Эту фаталистическую идею выдвигают компании, ответственные за эту технологию."}], "attributes": []}], "selectedRange": [116, 458]}
Комментарии 2