factograf
KK
Sign in

DeepSeek

All data from the card 4
Иесі
Лян Вэньфэн (Бас атқарушы директор)
Авторы
High-Flyer
Ашылған уақыты
мамыр 2023 жыл
Қазіргі статусы
жұмыс істеп тұр

DeepSeek (қыт. 深度求索, пиньинь Shēndù Qiúsuǒ) — Қытайдың жасанды интеллект әзірлеу компаниясы, сондай-ақ үлкен тілдік модельдер отбасы. Компания Ханчжоу қаласында орналасқан және қытайлық High-Flyer хедж-қорымен құрылған әрі қаржыландырылады. 2024 жылы шығарылған DeepSeek-V3 моделі Qwen және ChatGPT сияқты заманауи тілдік модельдермен салыстырылатын деңгейде деп бағаланады.

Тарихы

2015 жылы Чжэцзян университетінің үш инженері High-Flyer компаниясын құрды. Компания акциялар саудасында машиналық оқыту технологияларын қолданды. 2019 жылы жасанды интеллект алгоритмдерін зерттеумен айналысқан High-Flyer AI компаниясы құрылды. 2021 жылға қарай High-Flyer стратегияларының барлығы ИИ негізінде жұмыс істеді, ал компанияны Renaissance Technologies-пен салыстырды.

2023 жылғы сәуірде High-Flyer жалпы жасанды интеллектті зерттеуге арналған жаңа жобаны жариялады. Жоба акциялар саудасында қолданылмайды және High-Flyer қаржылық қызметінен бөлек жүзеге асырылады. 2023 жылғы мамырда компания DeepSeek атауымен іске қосылды, оны High-Flyer хедж-қорының негізін қалаушылардың бірі Лян Вэньфэн басқарды. DeepSeek әзірлемесін High-Flyer қаржыландырады.

2024 жылғы мамырда DeepSeek-V2 моделінің шығарылуы Қытайда жасанды интеллект жүйелерінің бағалық бәсекесін туғызды, себебі бұл модель төмен бағамен жоғары өнімділік ұсынды. Бұқаралық ақпарат құралдарында оны «Pinduoduo ЖИ» деп атап, ByteDance, Tencent, Baidu және Alibaba секілді ірі технологиялық компаниялар өздерінің ИИ-модельдерінің бағасын төмендетуге мәжбүр болды. Бағасының төмен болуына қарамастан, DeepSeek жобасы пайда әкелгенін хабарлады, ал оның негізгі бәсекелестері шығынға ұшырағаны туралы деректер жарияланды.

2024 жылдың соңына қарай DeepSeek зерттеу қызметімен айналысып жатыр және коммерцияландыруға қатысты нақты жоспарларын жарияламаған.

South China Morning Post басылымының жазуынша, DeepSeek компаниясы жаңа қызметкерлерді жұмысқа қабылдау кезінде еңбек өтілінен гөрі қабілетіне басымдық берген. Соның нәтижесінде әзірлеушілердің басым бөлігі — жас түлектер немесе жасанды интеллект саласында карьерасының бастапқы кезеңіндегі мамандар.

2025 жылға қарай DeepSeek АҚШ-тың жетекші технологиялық компаниялары әзірлеген деңгейдегі жасанды интеллект жүйесін жасап шыққанымен, ол анағұрлым қуаты төмен чиптерде және әлдеқайда аз шығынмен дайындалғанын мәлімделді. DeepSeek қызметкерлерінің айтуынша, V3 моделі Nvidia H800 чиптерінде оқытылған, ал бұл чиптер қуаты жағынан жаңа Nvidia Blackwell үлгілерінен айтарлықтай төмен. Тәуелсіз сарапшылардың пікірінше, DeepSeek және басқа да қытайлық компаниялар белгілі бір артықшылыққа ие, себебі Қытай нарығында ChatGPT және басқа да бірқатар шетелдік модельдерге қолжетімділік «Ұлы Қытай фаерволы» арқылы шектелген.

Шығарылымдар

2 қараша 2023 жылы DeepSeek компаниясы алғашқы моделі — DeepSeek Coder-ді таныстырды. Модель коммерциялық пайдалану мүмкіндігін қоса алғанда, тегін қолжетімді болды. DeepSeek «ашық салмақты» (open-weight) модельдер жасап шығарады, олар толық ашық бастапқы кодтан сәл өзгеше: модель MIT лицензиясы бойынша еркін қолданылып, зерттеліп және дамытыла алады, бірақ оны оқытуға пайдаланылған деректер жарияланбайды.

29 қараша 2023 жылы DeepSeek компаниясы 67 миллиард параметрлі үлкен тілдік модель — DeepSeek LLM-ді іске қосты. Модель сол кезеңдегі басқа LLM-дермен бәсекелесу үшін әзірленді және өнімділігі жағынан GPT-4 деңгейіне жақындады. Алайда есептеу тиімділігі мен ауқымдалуы бойынша мәселелер туындады. Сонымен қатар, модельдің чат-нұсқасы DeepSeek Chat атауымен шығарылды.

V2 және V3

2024 жылдың мамыр айында DeepSeek-V2 моделі шығарылды. Financial Times басылымының хабарлауынша, ол балама үлгілерге қарағанда арзанырақ болды және шығарылған әрбір миллион токен үшін 2 юань құнын құрады. Ватерлоо университетінің Tiger Lab зертханасы жүргізген LLM рейтингінде DeepSeek-V2 жетінші орынға ие болды.

2024 жылдың желтоқсан айында DeepSeek-V3 іске қосылды. Өнімділік тесттері бұл нұсқаның Llama 3.1 және Qwen 2.5 үлгілерінен асып түскенін, сондай-ақ GPT-4o және Claude 3.5 Sonnet деңгейіне сәйкес келгенін көрсетті. 2025 жылдың қаңтарына қарай тәуелсіз тексерулер әлі де жалғасып жатты. DeepSeek мысалы АҚШ-тың Қытайдағы жасанды интеллектті дамытуға қарсы санкцияларының күтілгендей тиімді болмауы мүмкін екенін көрсетті. Америкалық аналитик Рэй Вангтың пікірінше, Қытайдың заманауи ЖИ-чиптеріне толық қолжетімділігінің болмауы жергілікті зерттеушілерді шектеулі ресурстар жағдайында инновация жасауға итермелейді. Өндірушінің деректеріне сәйкес, модельді оқытуға жұмсалған жалпы шығын шамамен 5,58 млн АҚШ долларын құрады, ал оқыту процесі екі айға жуық уақытқа созылған.

DeepSeek-V3 үлгісі 685 млрд параметрден тұрады және көпэкспертті архитектураны (MoE) қолданады. Жүйеде 256 эксперт бар, олардың ішінен әрбір токен үшін 8-і ғана белсендіріледі. Бір токенді өңдеу кезінде 37 млрд параметр іске қосылады.

Кезең Шығын (мың GPU-сағат) Құны (млн АҚШ доллары)
Алдын ала даярлау 2664 5,328
Контекст көлемін ұлғайту 119 0,24
Жұқа баптау 5 0,01
Барлығы 2788 5,576

R1

2024 жылғы қарашада логикалық қорытынды, математикалық пайымдау және нақты уақыттағы есептерді шешуге арналған DeepSeek-R1-Lite-Preview моделі ұсынылды. DeepSeek компаниясы AIME және MATH тесттерінде бұл модельдің өнімділігі OpenAI o1 моделінен жоғары болғанын мәлімдеді. Алайда The Wall Street Journal басылымы AIME 2024 тесттеріндегі 15 тапсырма бойынша OpenAI o1 шешімдерді DeepSeek R1-Lite-Preview моделіне қарағанда жылдамырақ тапқанын жазды.

2025 жылғы қаңтарда V3 негізінде жасалған DeepSeek-R1 және DeepSeek-R1-Zero үлгілері жарияланды. Бұл үлгілер алдыңғы нұсқаларға қарағанда неғұрлым жетілдірілген және жауаптарды адам ойлауына ұқсас қадам-қадаммен генерациялайды. Алғашқы сынақтарда математика, химия және бағдарламалау бойынша бірқатар тапсырмаларды орындау кезінде R1 өнімділігі o1 деңгейімен шамалас екені көрсетілді.

2025 жылғы мамырда DeepSeek-R1 үлгісінің жетілдірілген нұсқасы шығарылды, оның параметрлер саны 671 миллиардтан 685 миллиардқа дейін артты. Сонымен қатар Qwen3-8B тілдік моделін негіз еткен дистилляция әдісі арқылы жасалған жеңілдетілген нұсқа — DeepSeek-R1-0528-Qwen3-8B ұсынылды.

V3.1

DeepSeek компаниясы 2025 жылы әзірлеген ірі тілдік модель. Модель шамамен 685 миллиард параметрден тұрады және диалог құру, логикалық пайымдау және бағдарламалау мүмкіндіктерін біріктіретін гибридті архитектураға негізделген. DeepSeek V3.1 128 000 токенге дейінгі контексті өңдей алады, бұл бірнеше жүз бет көлеміндегі мәтінді талдауға мүмкіндік береді.

Сын және цензура

R1 моделі ресми API-нұсқасында сезімтал тақырыптар бойынша цензура механизмдерін қолданатыны байқалады, әсіресе Қытайда саяси мәні бар деп саналатын мәселелерге қатысты. Мысалы, модель 1989 жылғы Тяньаньмэнь алаңындағы оқиғалар туралы сұрақтарға жауап беруден бас тартады. Кей жағдайларда жасанды интеллект бастапқыда жауап құрастырады, бірақ оны дереу өшіріп, келесі мәтінмен алмастырады: «Sorry, that’s beyond my current scope. Let’s talk about something else.» (қаз. «Кешіріңіз, бұл менің мүмкіндіктерімнен тыс. Басқа тақырып туралы сөйлесейік.»).

Read next

In 80 languages

Text from Wikipedia, CC BY-SA 4.0 · Source article