Компания Sentient Labs, финансируемая венчурным фондом Founders Fund под руководством Питера Тиля, недавно представила новую открытый исходный код AI поисковую платформу — Open Deep Search (ODS), которая получила 85 миллионов долларов в рамках раунда посевного финансирования. Этот фреймворк предназначен для обеспечения AI возможностями поиска, рассуждения и верификации, чтобы смягчить проблему иллюзий AI.
Что такое AI-галлюцинация?
Иллюзия ИИ (AI Hallucination) относится к ситуации, когда модели ИИ генерируют информацию, которая кажется разумной, но на самом деле является ошибочной. Например:
Изобретение несуществующих статей или цитат
Смешивание фактов, причинно-следственных связей или временных линий
Собирать кажущееся правдоподобным, но на самом деле ошибочное заключение
Коренная причина этого явления заключается в том, что современные модели ИИ в основном полагаются на распознавание шаблонов в обучающих данных, а не на истинное понимание и проверку достоверности информации.
ODS: Ассистент проверки фактов AI
ODS является открытым исходным кодом системой поискового代理, которая обеспечивает совместную работу нескольких инструментов и предназначена для предоставления AI моделям возможностей поиска, вывода и проверки. Его основные компоненты включают:
Открытый исходный код Поиск инструмент（OST）
OST может понимать намерения пользователей, интеллектуально генерировать поисковые запросы, глубоко извлекать актуальную информацию из Интернета, а также выполнять семантическую переработку, фильтрацию и агрегацию, что позволяет повысить качество и релевантность результатов поиска.
Открытый исходный код Reasoning Agent（ORA）
ORA имитирует многократный процесс рассуждения человека, способного активно выполнять повторные запросы при недостатке информации, использовать различные внешние инструменты или плагины, а также генерировать и выполнять код на Python для решения сложных логических или вычислительных задач.
Преимущества ODS
Интерпретируемость: каждый шаг операции ODS виден, пользователи могут проследить цепочку рассуждений и источники информации AI, что повышает прозрачность и доверие к системе.
Настраиваемость: ODS поддерживает интеграцию с любыми крупными языковыми моделями и внешними инструментами или плагинами, пользователи могут свободно настраивать правила вывода в соответствии с потребностями, чтобы удовлетворить различные сценарии применения.
Сокращение ошибочной информации: путем перекрестного сравнения нескольких источников информации, активно проводя вторичные запросы, избегая выводов на основе простого сопоставления ключевых слов, ODS может эффективно сократить распространение ошибочной информации, ложной информации и вводящей в заблуждение информации.
Примеры реального применения
Медицинская сфера: AI модели могут генерировать ошибочные диагностические рекомендации, что может привести к серьезным последствиям. Интегрируя ODS, медицинские AI системы могут автоматически искать последние медицинские исследования и авторитетные руководства перед генерацией диагностических рекомендаций, проверяя точность информации, тем самым повышая надежность диагностики.
Финансовая сфера: AI модели могут давать инвестиционные рекомендации на основе устаревших или неверных данных. ODS может помочь финансовым AI системам в реальном времени получать актуальные рыночные данные и аналитические отчеты, проводить многократную проверку, чтобы обеспечить точность и своевременность инвестиционных рекомендаций.
Резюме
Запуск ODS знаменует собой значительный прорыв в области открытых исходных кодов AI поисковых технологий. Он не только повышает прозрачность и управляемость AI систем, но и предоставляет разработчикам мощные инструменты для создания более надежных и доверительных AI приложений. С учетом постоянного развития ODS, у нас есть основания полагать, что открытый исходный код AI будет играть все более важную роль в будущей технологической экосистеме.
Содержание носит исключительно справочный характер и не является предложением или офертой. Консультации по инвестициям, налогообложению или юридическим вопросам не предоставляются. Более подробную информацию о рисках см. в разделе «Дисклеймер».
Sentient Labs наделяет ИИ: Открытый исходный код поиска вывода переосмысляет умную надежность
Компания Sentient Labs, финансируемая венчурным фондом Founders Fund под руководством Питера Тиля, недавно представила новую открытый исходный код AI поисковую платформу — Open Deep Search (ODS), которая получила 85 миллионов долларов в рамках раунда посевного финансирования. Этот фреймворк предназначен для обеспечения AI возможностями поиска, рассуждения и верификации, чтобы смягчить проблему иллюзий AI.
Что такое AI-галлюцинация?
Иллюзия ИИ (AI Hallucination) относится к ситуации, когда модели ИИ генерируют информацию, которая кажется разумной, но на самом деле является ошибочной. Например:
Изобретение несуществующих статей или цитат
Смешивание фактов, причинно-следственных связей или временных линий
Собирать кажущееся правдоподобным, но на самом деле ошибочное заключение
Коренная причина этого явления заключается в том, что современные модели ИИ в основном полагаются на распознавание шаблонов в обучающих данных, а не на истинное понимание и проверку достоверности информации.
ODS: Ассистент проверки фактов AI
ODS является открытым исходным кодом системой поискового代理, которая обеспечивает совместную работу нескольких инструментов и предназначена для предоставления AI моделям возможностей поиска, вывода и проверки. Его основные компоненты включают:
Открытый исходный код Поиск инструмент（OST）
OST может понимать намерения пользователей, интеллектуально генерировать поисковые запросы, глубоко извлекать актуальную информацию из Интернета, а также выполнять семантическую переработку, фильтрацию и агрегацию, что позволяет повысить качество и релевантность результатов поиска.
Открытый исходный код Reasoning Agent（ORA）
ORA имитирует многократный процесс рассуждения человека, способного активно выполнять повторные запросы при недостатке информации, использовать различные внешние инструменты или плагины, а также генерировать и выполнять код на Python для решения сложных логических или вычислительных задач.
Преимущества ODS
Интерпретируемость: каждый шаг операции ODS виден, пользователи могут проследить цепочку рассуждений и источники информации AI, что повышает прозрачность и доверие к системе.
Настраиваемость: ODS поддерживает интеграцию с любыми крупными языковыми моделями и внешними инструментами или плагинами, пользователи могут свободно настраивать правила вывода в соответствии с потребностями, чтобы удовлетворить различные сценарии применения.
Сокращение ошибочной информации: путем перекрестного сравнения нескольких источников информации, активно проводя вторичные запросы, избегая выводов на основе простого сопоставления ключевых слов, ODS может эффективно сократить распространение ошибочной информации, ложной информации и вводящей в заблуждение информации.
Примеры реального применения
Медицинская сфера: AI модели могут генерировать ошибочные диагностические рекомендации, что может привести к серьезным последствиям. Интегрируя ODS, медицинские AI системы могут автоматически искать последние медицинские исследования и авторитетные руководства перед генерацией диагностических рекомендаций, проверяя точность информации, тем самым повышая надежность диагностики.
Финансовая сфера: AI модели могут давать инвестиционные рекомендации на основе устаревших или неверных данных. ODS может помочь финансовым AI системам в реальном времени получать актуальные рыночные данные и аналитические отчеты, проводить многократную проверку, чтобы обеспечить точность и своевременность инвестиционных рекомендаций.
Резюме
Запуск ODS знаменует собой значительный прорыв в области открытых исходных кодов AI поисковых технологий. Он не только повышает прозрачность и управляемость AI систем, но и предоставляет разработчикам мощные инструменты для создания более надежных и доверительных AI приложений. С учетом постоянного развития ODS, у нас есть основания полагать, что открытый исходный код AI будет играть все более важную роль в будущей технологической экосистеме.