В Microsoft назвали ИИ опасным

Результаты исследования были опубликованы на платформе arXiv. Специалисты изучили более 100 инструментов генеративного ИИ и выявили потенциальные риски, связанные с их использованием. Они отметили, что полная безопасность ИИ недостижима, поэтому важно контролировать процесс обучения языковых моделей (LLM) и предотвращать возможные ошибки.

Исследователи пришли к выводу, что большие языковые модели (LLM) увеличивают существующие угрозы безопасности и могут создавать новые. Если обучать LLM на основе недостоверных или конфиденциальных данных, модель может распространять эту информацию среди пользователей. Они также подчеркнули, что потенциальный вред от использования ИИ сложно оценить.

Для повышения безопасности при работе с ИИ, специалисты предложили более тщательно контролировать каждый этап обучения LLM. Они отметили, что человеческий фактор играет решающую роль в процессе обучения ИИ, и подчеркнули важность наличия предметной экспертизы, культурной компетентности и эмоционального интеллекта при работе с искусственным интеллектом.

В начале января швейцарские ученые высказали мнение о том, что частое использование инструментов ИИ может привести к снижению уровня критического мышления. Они предположили, что в долгосрочной перспективе использование ИИ может негативно сказаться на когнитивных функциях общества.

Источник и фото - lenta.ru