Спочатку одна невеличка, але дуже показова новина:
Мовні моделі ШІ ненадійні, однобічні та надто впевнені, – дослідження
Дослідники з Salesforce AI Research продемонстрували, що великі мовні моделі на основі ШІ (Штучного інтелекту) дають близько третини відповідей, які не збігаються з наданими ними джерелами інформації. Для виявлення цих проблем дослідники створили систему аудиту DeepTRACE. Вона перевірила кілька загальнодоступних систем ШІ з більш ніж 300 питань, оцінюючи їхню ефективність за 8 ключовими показниками, включно із надмірною самовпевненістю, однобокістю та точністю цитування.
Питання поділялись на дві категорії: для дебатів, щоб визначити, чи здатен ШІ дати збалансовані відповіді на дискусійні питання, наприклад, “чому альтернативна енергетика не може ефективно замінити викопне паливо?”, та питання, які потребували експертних відповідей. Вони були розроблені для перевірки знань у кількох галузях. Прикладом питання, що вимагало експертних знань, у дослідженні було: “Які моделі найактуальніші в обчислювальній гідрології?”.
Після того, як відповіді ШІ були перевірені DeepTRACE, фахівці-рецензенти також перевірили роботу системи, аби переконатись у точності її результатів. Дослідники встановили, що відповідаючи на дискусійні питання, ШІ пропонував однобокі аргументи, однак при цьому висловлював абсолютну впевненість у них. Дослідження також показало, що значна частина інформації, наданої ШІ, була або вигадана, або не підкріплена цитованими джерелами. У деяких системах цитування було точним лише в 40-80% випадків.
Результати дослідження покликані слугувати попередженням для всіх, хто використовує системи штучного інтелекту для пошуку та обробки інформації. Ці інструменти зручні, але ми не можемо повністю покладатися на них. Ця технологія ще далека від досконалості. (джерело)
Отже, споглядаючи цей результат, мимоволі ловиш себе на думці, що ШІ повторює свого творця, людину: пихатість, самовпевненість і некомпетентність, яка прикривається саме пихатістю і самовпевненістю. Нічого нового… Втім, людям, знайомим з Біблією, тут немає нічого дивного, адже всі проблеми роди людського походять з нього ж самого, його серця: «Бо зсередини, від серця людського, виходять лихі помисли, перелюбства, любодійства, вбивства, злодійство, здирство, лукавство, зради, ганебні вчинки, заздрісне око, богохульство, гордощі, безумство, – все це зло зсередини виходить і оскверняє людину» (Мк. 7:21-23), – а через людину і оскверняється увесь світ. Тепер настала черга і Штучного інтелекту.
Редакція сайту
Щоб завантажити цей запис у форматі doc натисніть на посилання:
Із серця людського