Anthropic

Anthropic — американская компания, специализирующаяся на исследованиях и разработках в области искусственного интеллекта. Организация была основана в 2021 году группой бывших сотрудников OpenAI, включая Дарио Амодеи и Дэниелу Амодеи. Основная миссия Anthropic заключается в создании безопасных, интерпретируемых и надежных систем ИИ.

Компания получила широкую известность благодаря разработке семейства языковых моделей Claude. Эти модели ориентированы на безопасность и полезность, а их обучение строится на принципах конституционного ИИ (Constitutional AI). Данный подход позволяет снизить вероятность генерации вредоносного или неэтичного контента.

Anthropic активно занимается исследованиями в области интерпретируемости нейросетей. Специалисты компании изучают внутренние механизмы работы моделей, чтобы понять, как именно ИИ приходит к тем или иным выводам. Эти исследования помогают выявлять случаи, когда модель подгоняет рассуждения под заранее известный ответ, а не следует логике.

Компания привлекла значительные инвестиции от крупных технологических инвесторов, включая Google и Salesforce. Anthropic считается одним из ключевых игроков в области безопасного ИИ наряду с OpenAI и DeepMind. Организация стремится к тому, чтобы разработки в сфере искусственного интеллекта приносили пользу обществу и не создавали угроз.