Благодаря быстрому развитию технологий искусственного интеллекта, проблема искусственного искусства «иллюзии» становится все более заметной, что приносит огромную репутацию и экономические потери для предприятий. Система ИИ имеет дезинформацию и небезопасное поведение в области обслуживания клиентов, финансов и медицинской помощи, что серьезно влияет на его надежность и доверие. Чтобы решить эту проблему, все больше и больше компаний начинают обращать внимание на безопасность ИИ и активно стремиться к эффективным решениям.
Благодаря быстрому развитию искусственного интеллекта феномен AI «иллюзия» становится все более и чаще, что доставляло много проблем для многих компаний. Чат -боты обслуживания клиентов уверенно описывают продукты, которые не существуют, финансовые данные изготавливают рыночные данные, а медицинские роботы дают опасные медицинские консультации. Эти проблемы больше не просто интересные вещи, но являются основными скрытыми опасностями, которые влияют на репутацию и прибыль компании.
Чтобы решить эту проблему, стартап Patronus Ai, базирующаяся в Сан-Франциско, объявил о запуске первой в мире платформы самообслуживания, предназначенной для обнаружения и предотвращения сбоя систем ИИ в режиме реального времени. Эта платформа похожа на «Проверка орфографии» систем искусственного интеллекта, который может быть запечатлен до возникновения проблемы.
Ананд Каннаппан, генеральный директор Patronus AI, заявил в интервью, что многие компании сталкиваются с неудачами ИИ в производственных средах, включая галлюцинации, нарушения безопасности и непредсказуемое поведение. Согласно исследованию компании, ведущие модели искусственного интеллекта, такие как GPT-4, имеют 44% вероятность повторения контента, защищенного авторским правом, и даже усовершенствованные модели имеют более чем 20% вероятность создания небезопасности в базовых тестах безопасности.
Чтобы помочь предприятиям улучшить безопасность систем искусственного интеллекта, Patronus AI предоставляет ряд инновационных функций. Среди них наиболее заметная функция «оценщика» позволяет предприятиям писать индивидуальные правила оценки на простом английском языке. Эта гибкость позволяет компаниям из всех слоев общества приспосабливаться в соответствии с их потребностями, таких как компании, занимающиеся финансовыми услугами, могут сосредоточиться на соблюдении, в то время как медицинские учреждения могут сосредоточиться на конфиденциальности пациентов и медицинской точности.
В основе платформы лежит модель обнаружения галлюцинации, называемую Lynx, которая на 8,3% точнее GPT-4, при выявлении медицинских негростей. Кроме того, платформа имеет два режима эксплуатации: один для мониторинга в реальном времени, а другой для углубленного анализа. В дополнение к традиционной проверке ошибок, компания также разработала специальные инструменты, такие как CopyrightCatcher и FinanceBench, чтобы предоставить предприятиям комплексную защиту отказа в области искусства ИИ.
Чтобы сделать эти инструменты безопасности доступными для большего количества предприятий, Patronus AI принимает модель ценообразования с оплатой как вы, начиная с 10 долларов США за 1000 вызовов API. Ранние пользователи уже включают крупные предприятия, такие как HP, Angellist и Pearson, демонстрирующие важность для инвестиций в безопасность искусственного интеллекта.
Сегодня, благодаря быстрому развитию ИИ, платформы, такие как Patronus AI, могут не только помочь предприятиям снизить риски, но и помочь соблюдать предстоящие законы и правила. С непрерывной эволюцией систем ИИ, как точно захватить и исправить эти «иллюзии», будет важной проблемой, стоящей перед предприятиями.
Портал продукта: https://www.patronus.ai/
Ключевые моменты:
Patronus AI запускает первый в мире API самообслуживания, стремясь обнаружить и предотвратить галлюцинации ИИ в режиме реального времени.
Платформа позволяет предприятиям создавать индивидуальные правила оценки на простом английском языке, предоставляя гибкие решения.
Внедрение модели с оплатой, как вы можете, позволяет большему количеству предприятий позволить себе инструменты безопасности искусственного интеллекта.
Появление AI Patronus обеспечивает эффективное решение для решения проблемы галлюцинации AI. Разработка технологии ИИ.