бизнес
OpenAI прекращает обучение моделей обучения на живом интернете из-за значительных рисков
OpenAI объявила о намерении остановить обучение своих передовых языковых моделей на данных из открытого интернета. Решение последовало после обсуждения технических ограничений и рисков, связанных с использованием текущих
OpenAI объявила о стратегическом изменении в подходе к разработке своих передовых моделей, заявив, что с этого момента они больше не будут использовать данные, собранные из открытого интернета. Это решение последовало после того, как внутренние обсуждения технической возможности и потенциальных рисков, связанных с обучением моделей на массивах данных из живой, неструктурированной информационной среды.
Переход на закрытые или специально курируемые датасеты является одним из наиболее значимых шагов в развитии генеративного искусственного интеллекта. Ограничение доступа к открытому веб-контенту затрагивает фундаментальный процесс обучения больших языковых моделей (LLM), который традиционно опирался на колоссальные объемы информации, доступной в сети. Для OpenAI это означает необходимость перестройки всей инфраструктуры сбора, фильтрадистилляции и верификации данных.
Позиция компании о прекращении обучения на живом интернете была озвучена на фоне внутренних дискуссий, в которых поднимались вопросы безопасности и качества. Эксперты, работающие над проектом, указали на значительные риски, связанные с использованием нефильтрованных данных. Эти данные могут содержать не только нерелевантную информацию, но и контент, который не соответствует этическим стандартам или юридическим требованиям, что ставит под угрозу стабильность и репутацию самой платформы.
Решение OpenAI отражает более широкую тенденцию в отрасли, где крупнейшие технологические компании начинают сталкиваться с растущим давлением со стороны регуляторов, а также с необходимостью контроля за авторскими правами. Использование огромных массивов данных, собранных без должного учета юридических аспектов, создает потенциальные правовые риски. Ограничение внешних источников — это, таким образом, попытка минимизировать эти юридические и этические риски, а также повысить предсказуемость поведения своих AI-систем.
Для конечного пользователя это может означать, что ответы моделей станут более точными и специализированными и менее подверженными «галлюцинациям», однако потребуют от разработчиков более сложной и трудоемкой работы над фильтрацией и верификацией информации. Вместо того чтобы полагаться на бесконечный поток информации из глобальной сети, OpenAI теперь будет концентрироваться на более целевых, проверенных и структурированных источниках. Это смещает фокус с объема данных на их качество и безопасность.
Данное изменение в стратегии обучения AI-моделей становится важным сигналом для всей индустрии разработки ИИ. Оно указывает на то, что эпоха беспрецедентного сбора данных из всего открытого интернета, вероятно, подходит к концу. Будущее больших языковых моделей, по мнению экспертов, лежит в более узких, контролируемых и, возможно, даже специализированных, обучающих выборках, где каждый фрагмент информации прошел тщательную проверку на соответствие качества и правовым нормам. Это открывает новые возможности для более глубокой персонализации и надежности ИИ, но одновременно усложняет процесс его создания.