ডিপসেক এআই উন্নয়নের দাম $ 1.6 বিলিয়ন, ডিবানিং সাশ্রয়ী মূল্যের পৌরাণিক কাহিনী
ডিপসেকের নতুন চ্যাটবট এআই বাজারে উল্লেখযোগ্য প্রভাব ফেলেছে, যার ফলে প্রতিযোগিতামূলক প্রান্তের কারণে এনভিডিয়ার অন্যতম বৃহত্তম স্টক মূল্য হ্রাস হয়েছে। আশ্চর্যজনক উপায়ে প্রশ্নের উত্তর দেওয়ার প্রতিশ্রুতির সাথে পরিচয় করিয়ে দেওয়া, ডিপসেক দ্রুত নিজেকে শিল্পের এক শক্তিশালী খেলোয়াড় হিসাবে অবস্থান করেছেন।
চিত্র: ensigame.com
ডিপসিকের মডেলকে যা আলাদা করে তা হ'ল এর উদ্ভাবনী স্থাপত্য এবং প্রশিক্ষণ পদ্ধতি। সংস্থাটি বেশ কয়েকটি উন্নত প্রযুক্তি নিয়োগ করে, সহ:
মাল্টি-টোকেন পূর্বাভাস (এমটিপি) : এই পদ্ধতিটি একটি বাক্যটির বিভিন্ন অংশ বিশ্লেষণ করে মডেলটিকে একবারে একাধিক শব্দের পূর্বাভাস দেওয়ার অনুমতি দেয়, যথার্থতা এবং দক্ষতা উভয়ই উল্লেখযোগ্যভাবে উন্নত করে।
বিশেষজ্ঞদের মিশ্রণ (এমওই) : প্রতিটি টোকেন প্রসেসিং টাস্কের জন্য আটটি সক্রিয় করে 256 নিউরাল নেটওয়ার্কগুলি ব্যবহার করে, এই আর্কিটেকচারটি এআই প্রশিক্ষণকে গতি বাড়িয়ে তোলে এবং কর্মক্ষমতা বাড়ায়।
মাল্টি-হেডের সুপ্ত মনোযোগ (এমএলএ) : এই প্রক্রিয়াটি একটি বাক্যটির সর্বাধিক উল্লেখযোগ্য অংশগুলিতে মনোনিবেশ করে, গুরুত্বপূর্ণ তথ্য অনুপস্থিতির সম্ভাবনা হ্রাস করার জন্য একাধিকবার মূল বিবরণ আহরণ করে, যার ফলে ইনপুট ডেটাতে গুরুত্বপূর্ণ সূক্ষ্মতা ক্যাপচার করে।
চিত্র: ensigame.com
বিশিষ্ট চীনা স্টার্টআপ ডিপসেক দাবি করেছেন যে মাত্র 2048 গ্রাফিক্স প্রসেসর ব্যবহার করে প্রশিক্ষণের জন্য $ 6 মিলিয়ন ডলার ন্যূনতম ব্যয়ে একটি প্রতিযোগিতামূলক এআই মডেল, ডিপসেক ভি 3 তৈরি করেছেন। তবে, সেমিয়ানালাইসিসের বিশ্লেষকরা আবিষ্কার করেছেন যে সংস্থাটি প্রায় 50,000 এনভিডিয়া হপার জিপিইউগুলির সমন্বয়ে 10,000 এইচ 800 ইউনিট, 10,000 এইচ 100 এবং অতিরিক্ত এইচ 20 জিপিইউ সহ একাধিক ডেটা সেন্টারে ছড়িয়ে রয়েছে, প্রায় 50,000 এনভিডিয়া হপার জিপিইউ সমন্বিত একটি বিশাল গণ্য অবকাঠামো পরিচালনা করে। এই সংস্থানগুলি কেবল এআই প্রশিক্ষণের জন্যই নয় গবেষণা এবং আর্থিক মডেলিংয়ের জন্যও ব্যবহৃত হয়।
ডিপসেকের দ্বারা সার্ভারগুলিতে মোট বিনিয়োগ অনুমান করা হয় $ 1.6 বিলিয়ন, অপারেশনাল ব্যয় $ 944 মিলিয়ন ডলারে পৌঁছেছে। চাইনিজ হেজ ফান্ড হাই-ফ্লায়ারের সহায়ক সংস্থা হিসাবে, এআই প্রযুক্তিগুলিতে মনোনিবেশ করার জন্য ডিপসেককে ২০২৩ সালে ছড়িয়ে দেওয়া হয়েছিল। ক্লাউড পরিষেবাদির উপর নির্ভর করে এমন অনেক স্টার্টআপগুলির বিপরীতে, ডিপসেক তার ডেটা সেন্টারগুলির মালিক, যা এআই মডেল অপ্টিমাইজেশন এবং দ্রুত উদ্ভাবন বাস্তবায়নের উপর আরও বেশি নিয়ন্ত্রণের অনুমতি দেয়। সংস্থাটি স্ব-অর্থায়িত থাকে, এর নমনীয়তা এবং সিদ্ধান্ত গ্রহণের গতি বাড়িয়ে তোলে।
চিত্র: ensigame.com
ডিপসেক শীর্ষ প্রতিভাও আকর্ষণ করে, কিছু গবেষকরা মূলত শীর্ষস্থানীয় চীনা বিশ্ববিদ্যালয়গুলির কাছ থেকে বার্ষিক ১.৩ মিলিয়ন ডলার উপার্জন করেন। কেবলমাত্র million মিলিয়ন ডলারের জন্য ডিপসেক ভি 3 প্রশিক্ষণের সংস্থার দাবিটি অবাস্তব হিসাবে বিবেচিত হয়, কারণ এটি কেবল প্রাক-প্রশিক্ষণের সময় জিপিইউ ব্যবহারের জন্য অ্যাকাউন্ট করে এবং গবেষণা, মডেল পরিশোধন, ডেটা প্রসেসিং এবং সামগ্রিক অবকাঠামো হিসাবে অন্যান্য উল্লেখযোগ্য ব্যয়কে বাদ দেয়।
শুরু হওয়ার পর থেকে ডিপসেক এআই বিকাশে 500 মিলিয়ন ডলারেরও বেশি বিনিয়োগ করেছে। এর পাতলা কাঠামো এআই উদ্ভাবনের দ্রুত এবং কার্যকর বাস্তবায়ন সক্ষম করে, এটি বৃহত্তর, আরও আমলাতান্ত্রিক সংস্থাগুলি থেকে পৃথক করে।
চিত্র: ensigame.com
ডিপসেকের সাফল্য প্রদর্শন করে যে কীভাবে একটি সু-অর্থায়িত, স্বতন্ত্র এআই সংস্থা শিল্প নেতাদের চ্যালেঞ্জ জানাতে পারে। যদিও সংস্থার কৃতিত্বগুলি চিত্তাকর্ষক, বিশেষজ্ঞরা পরামর্শ দিয়েছেন যে এআই মডেল বিকাশের জন্য "বিপ্লবী বাজেট" দাবি বাড়ানো হয়েছে। ডিপসিকের ব্যয়গুলি, যদিও তাৎপর্যপূর্ণ, এখনও এর প্রতিযোগীদের তুলনায় কম; উদাহরণস্বরূপ, ডিপসিকের আর 1 মডেলের প্রশিক্ষণ ব্যয়টি ছিল 5 মিলিয়ন ডলার, এর তুলনায় CHATGPT4O এর জন্য million 100 মিলিয়ন।