GPT-4
| Generative Pre-trained Transformer 4 (GPT-4) | |
| Авторы | |
|---|---|
| Ашылған уақыты | |
| Қазіргі статусы |
жұмыс істеп тұр |
GPT-4 (Generative Pre-trained Transformer 4) — OpenAI әзірлеген мультимодальды үлкен тілдік модель, GPT сериясының төртінші нұсқасы. 2023 жылғы 14 наурызда жарияланды және ChatGPT Plus пайдаланушыларына қолжетімді.[1] Microsoft компаниясы GPT негізінде жұмыс істейтін Bing-тің кейбір нұсқалары ресми таныстырылымға дейін GPT-4 моделін пайдаланғанын растады.[2] Трансформер архитектурасына негізделген GPT-4 келесі токенді болжауға алдын ала оқытылды (ашық деректер мен «үшінші тараптардан лицензияланған деректерді» қоса отырып), кейінірек адамдық кері байланысқа негізделген күшейтілген оқыту әдісі арқылы жетілдірілді.[3]
GPT-4 жөніндегі техникалық есепте модельдің параметрлер саны әдейі көрсетілмеген, бұл шешім «ірі үлгілер саласындағы бәсекелестік орта және қауіпсіздік салдары» арқылы түсіндірілген.[3] The Verge жариялаған қауесеттерге сәйкес, GPT-4 параметрлер санын GPT-3 үлгісіндегі 175 миллиардтан 100 триллионға дейін ұлғайтады делінген, алайда OpenAI бас директоры Сэм Альтман мұны «толықтай сандырақ» деп атады.[4] Кейін пайда болған өзге болжамдарда GPT-4 шамамен 1,76 триллион параметрге ие болуы мүмкін деген пікір айтылады, бұл бағалау оның жұмыс жылдамдығына және Джордж Хотцтың есептеулеріне негізделген.[5] АҚШ өкілдер палатасының мүшелері Дон Бейер және Тед Лью New York Times басылымына берген мәлімдемесінде Альтман 2023 жылғы қаңтарда Конгреске барып, GPT-4 моделін және оның қауіпсіздік тетіктері алдыңғы ИИ үлгілеріне қарағанда жетілдірілгенін көрсеткенін растады.[6]
OpenAI GPT-4 жайлы жариялаған блог жазбасында «GPT-4 алдыңғы нұсқа — GPT-3.5-пен салыстырғанда анағұрлым сенімді, креативті және күрделі нұсқауларды орындай алады» деп мәлімдеді.[1] Модель 25 000 сөзге дейінгі мәтінді оқи, талдай және генерациялай алады, бұл алдыңғы нұсқалармен салыстырғанда едәуір ілгерілеу болып саналады.[7][8] The New York Times басылымы GPT-4 дәлдік деңгейін айтарлықтай жақсартқанын, суреттерді сипаттап және түсіндіре алатынын, күрделі мәтіндерді қысқаша мазмұндау қабілетіне ие болғанын, адвокаттық емтихан мен бірнеше стандартталған тесттерден өткенін жазды, алайда жауаптарда галлюцинацияға бейімділік әлі де сақталғанын атап өтті.[9]
2023 жылғы 22 наурызда Илон Маск жасанды интеллект саласындағы мыңнан астам маманмен бірге GPT-4-тен қуатты жүйелерді әзірлеуге уақытша тыйым салуды талап еткен ашық хат жариялады. Хат авторларының пікірінше, бұл саладағы бақыланбайтын даму адамзатқа қауіп төндіруі мүмкін деп есептеледі.[10][11][12]
2024 жылғы 13 мамырда OpenAI модельдің жаңа нұсқасы — GPT-4o-ны таныстырды. «O» әрпі «omni» («жан-жақты») дегенді білдіреді. Қабілеттері жағынан GPT-4 Turbo-ға сәйкес келеді, бірақ кескіндер мен аудио деректерін өңдеу сапасы жоғарырақ.[13]
Дереккөздер
- ↑ a b GPT-4 (14 наурыз 2023).
- ↑ Microsoft’s new Bing was using GPT-4 all along (14 наурыз 2023).
- ↑ a b GPT-4 Technical Report (2023).
- ↑ Vincent, James OpenAI CEO Sam Altman on GPT-4: "people are begging to be disappointed and they will be" (18 қаңтар 2023).
- ↑ Schreiner, Maximilian GPT-4 architecture, datasets, costs and more leaked (ағыл.) (11 шілде 2023).
- ↑ Kang, Cecilia. As A.I. Booms, Lawmakers Struggle to Understand the Technology, The New York Times (3 наурыз 2023).
- ↑ GPT-4 (14 наурыз 2023).
- ↑ GPT-4 Developer Livestream. OpenAI.
- ↑ Metz. 10 Ways GPT-4 Is Impressive but Still Flawed (ағыл.) (14 наурыз 2023).
- ↑ Pause Giant AI Experiments: An Open Letter (ағыл.).
- ↑ Илон Маск, Стив Возняк и ещё тысяча экспертов в области ИИ призвали как минимум на полгода остановить обучение ИИ вроде GPT-4 и ему подобных (орыс.).
- ↑ Илон Маск, Стив Возняк и больше тысячи экспертов призвали приостановить разработку продвинутого искусственного интеллекта (орыс.).
- ↑ OpenAI представила новую версию нейросети GPT-4o. РБК (14 мамыр 2024).