OpenAI представи нов изкуствен интелект 28.06 | 11:30

OpenAI представи нов изкуствен интелект. Той се казва CriticGPT и е създаден, за да критикува и коригира грешките на другите алгоритми на компанията.

По-конкретната му задача е да анализира отговорите на фамилията алгоритми GPT-4, съобщава Ars technica. CriticGPT трябва да обърне внимание на притесненията на потребителите, че умните алгоритми допускат грешки и изглежда няма кой да ги коригира или дори да предупреди, че информацията може да е неточна.

Новият алгоритъм първоначално ще има конкретна функция и ще се използва от хората, които обучават ChatGPT модели и преглеждат генериран от бота програмен код. CriticGPT е обучен със същата информация като ChatGPT, но вместо да генерира нова информация, взима вече създадената и я преглежда за коректност.

След това може да предупреди за открити грешки или за редове, които може да не са точни и се нуждаят от допълнителен преглед. CriticGPT е допълнително обучен и чрез примерни програмни кодове, в които нарочно са добавени грешки, за да може да се научи как да ги разпознава.

Експертите на OpenAI са направили и сравнителни тестове между CriticGPT и реални хора. Те са преглеждали едни и същи кодове и са давали своите критики и отзиви. След това други хора са ги преглеждали и в 63% от случаите са предпочитали препоръките на CriticGPT, а не на реалните хора. Тестовете показват още, че екипите, които комбинират човешкия опит с този на алгоритъма, пишат по-добри критики с повече прецизност и задълбоченост.

Учените са разработили и нови техники, които помагат на CriticGPT да пише по-детайлни аргументи. Освен това алгоритъмът е показал, че може да се използва и за анализ на качеството на базите с информация, която се използва за обучение на AI. Той е тестван с бази данни, които са били оценени като перфектни, без никакви грешки от хора и е намерил 24% грешки и те са били потвърдени от повторен преглед от експерти.

Засега CriticGPT не е готов да се използва масово и за всякакви анализи на отговорите на AI ботове. Той показва потенциал, че един ден и това ще е възможно, но ще е нужно още време и усъвършенстване на алгоритъма.