Репост из: llms_ua
⌘57. LLM-доповнений інтелект
Якщо достатньо людей використовують LLMки для того, щоб ставити запитання та відповідно змінювати свою поведінку, ми вже живемо у світі LLM-доповненого інтелекту (LLM-augmented intelligence, or LAI).
Оце вже нагальна проблема, що потребує вивчення, а не неіснуючий штучний інтелект.
Потенційні наслідки:
Люди несвідомо підлаштовуються під мову, логіку та рамки, які задають LLM. Це може призвести до уніфікації мислення та зменшення когнітивної різноманітності.
Модифікація поведінки: Якщо люди постійно звертаються до LLM за порадами щодо прийняття рішень, вони можуть почати внутрішньо приймати рекомендовані системами стратегії та алгоритми.
Епістемічний зсув: Колективна база знань, на якій навчаються LLM і яку вони ж самі підсилюють через взаємодії з користувачами, може еволюціонувати несподіваними шляхами, створюючи петлі зворотного зв’язку, які можуть посилювати певні наративи, одночасно приглушуючи інші. Тобто мова йде не про вбудовані помилки мислення (biases), а емергентні непередбачувані властивості такого дуету.
🧿 @llms_ua
Якщо достатньо людей використовують LLMки для того, щоб ставити запитання та відповідно змінювати свою поведінку, ми вже живемо у світі LLM-доповненого інтелекту (LLM-augmented intelligence, or LAI).
Оце вже нагальна проблема, що потребує вивчення, а не неіснуючий штучний інтелект.
Потенційні наслідки:
Люди несвідомо підлаштовуються під мову, логіку та рамки, які задають LLM. Це може призвести до уніфікації мислення та зменшення когнітивної різноманітності.
Модифікація поведінки: Якщо люди постійно звертаються до LLM за порадами щодо прийняття рішень, вони можуть почати внутрішньо приймати рекомендовані системами стратегії та алгоритми.
Епістемічний зсув: Колективна база знань, на якій навчаються LLM і яку вони ж самі підсилюють через взаємодії з користувачами, може еволюціонувати несподіваними шляхами, створюючи петлі зворотного зв’язку, які можуть посилювати певні наративи, одночасно приглушуючи інші. Тобто мова йде не про вбудовані помилки мислення (biases), а емергентні непередбачувані властивості такого дуету.
🧿 @llms_ua