🤖 Нове дослідження: чому AI-пошуковики можуть бути небезпечні?Salesforce AI Research разом з Penn State University дослідили нове покоління пошуковиків на базі LLM (Perplexity, ChatGPT Search,
You.com). Результати неоднозначні:
⚡️ Ключові проблеми:• 80% відповідей — однобокі
• 30% тверджень без джерел
• Системи підтакують упередженням користувача
• Лише 40% посилань реально підтверджують інформацію
• Відповіді часто поверхневі, без важливих деталей
🎯 Головні ризики:• Втрата навички критичного мислення
• Обмеження самостійності користувача
• Створення інформаційних бульбашок
• "Запечатане знання" — користувач отримує готову відповідь без доступу до ширшого контексту
💡 Що робити:• Перевіряти джерела
• Використовувати традиційний пошук для важливих запитів
• Бути особливо уважним із суперечливими темами
• Не сприймати AI-відповіді як істину в останній інстанції
https://arxiv.org/pdf/2410.22349