ওপেন সোর্স মডেল সীমাবদ্ধ হওয়ার পরে, প্রথম যে জিনিসটি স্বাধীন হতে হবে তা হল মডেল নিরপেক্ষ স্তর।
মডেল পরিবর্তন করা যেতে পারে এটা কোন ব্যাপার না. কি সত্যিই অসুবিধাজনক ডিফল্ট আচরণ যে কোড হার্ড কোড করা হয়.
একবার একটি ওপেন সোর্স মডেল সীমাবদ্ধ হতে শুরু করলে, প্রথম যে জিনিসটি প্রকাশ করা হয় তা প্রায়শই ডাউনলোড এন্ট্রি নয়, কোডে ডিফল্ট অনুমান। মডেলের নাম পরিবর্তন করা হয়েছে, কিন্তু ইন্টারফেসটি এখনও আছে, কিন্তু ব্যবসায়িক প্রক্রিয়াটি পুরানো আচরণের সাথে আর সিঙ্কে নেই: আউটপুট ফর্ম্যাট, ফাংশন কল সিকোয়েন্স, প্রত্যাখ্যান টোন, প্রসঙ্গ দৈর্ঘ্য, স্যাম্পলিং প্যারামিটার, এগুলির যেকোনো একটি পৃথকভাবে দেখা যেতে পারে, তবে সেগুলিকে একসাথে স্ট্যাক করলে পুরো লিঙ্কটি টেনে আনবে৷
এই ধরনের সমস্যা সাধারণত একটি স্থাপত্য সমস্যা হিসাবে গণ্য করা কঠিন। উন্নয়ন পর্যায়ে, আমি শুধুমাত্র “চালাতে পারেন” দেখেছি। অনলাইনে যাওয়ার পরে, আমি আবিষ্কার করেছি যে মডেল নির্বাচন ইতিমধ্যে ব্যবসায়িক যুক্তিতে লেখা হয়েছে। কিছু ক্ষেত্র শুধুমাত্র একটি রিটার্ন ফরম্যাটের সাথে খাপ খাইয়ে নেয়, কিছু পুনঃপ্রয়াস শুধুমাত্র একটি প্রত্যাখ্যান পদ্ধতিকে চিনতে পারে, এবং একটি দীর্ঘ ব্যাখ্যা দেওয়ার জন্য কিছু ব্যতিক্রম ফলব্যাক ডিফল্ট মূল মডেলে। একবার বিধিনিষেধ আরোপ করা হলে, এই সমস্ত লুকানো স্তূপ উন্মোচিত হয়।
ডিফল্ট আচরণ মডেলটিকে ব্যবসার সাথে সংযুক্ত করবে
অ্যাক্সেস পর্যায়ে, মডেলটিকে প্রায়শই একটি SDK যোগ করা, একটি API সংযোগ করা এবং একটি প্রম্পট শব্দ যোগ করা হিসাবে বিবেচনা করা হয়। সংযুক্ত হওয়ার পরে, পরিষ্কার করা সবচেয়ে কঠিন জিনিসটি কল নিজেই নয়, তবে ডিফল্ট আচরণের চারপাশে যে শাখাগুলি বেড়েছে। আউটপুটটি কঠোরভাবে JSON হওয়া উচিত কিনা, ব্যর্থতার পরে টুল কলটি আবার চেষ্টা করা উচিত কিনা, কোথায় ওভারলং ইনপুট ছেঁটে ফেলতে হবে, এবং কোন স্তরে ঝুঁকি নিয়ন্ত্রণ প্রম্পট স্থাপন করতে হবে। এই সমস্যাগুলি প্রায়ই ব্যবসায়িক কোডের মধ্যে পড়ে।
একবার একটি ওপেন সোর্স মডেল সীমাবদ্ধ বা তাক থেকে সরানো হলে, বা স্থানীয় চিত্র এবং আপস্ট্রিম সংস্করণ কাঁটাচামচ শুরু হলে, এই ডিফল্ট আচরণগুলি আর নির্ভরযোগ্য নয়। পৃষ্ঠে, এটি কেবল মডেল পরিবর্তন করছে, তবে নীচে একই সময়ে পার্সিং, পর্যবেক্ষণ, রোলব্যাক এবং পরীক্ষা পরিবর্তন করা প্রয়োজন। সবচেয়ে কঠিন অংশটি হল অভিযোজনের আরও কয়েকটি লাইন লেখা নয়, তবে অনুমানের মূল সেটটি শুরু থেকে শেষ পর্যন্ত স্পষ্টভাবে চিহ্নিত করা হয়নি।
নিরপেক্ষ স্তরের ভূমিকা অন্তর্নিহিত অনুমানগুলি ছড়িয়ে দেওয়া
মডেল-নিরপেক্ষ স্তরগুলি বিমূর্তকরণের জন্য বিমূর্ত নয়। এর কাজটি খুবই সহজ: প্রম্পট শব্দ, স্কিমা যাচাইকরণ, রাউটিং, পুনরায় চেষ্টা, ডাউনগ্রেড, লগ এবং মূল্যায়ন এক জায়গায় রাখুন, যাতে মডেল পার্থক্যগুলি প্রথমে একই সীমানাগুলির মধ্য দিয়ে যায়৷ এইভাবে, এমনকি যদি মডেলটি ক্লাউড, ওপেন সোর্স, স্থানীয় অনুমান বা অন্যান্য প্রদানকারী দ্বারা প্রতিস্থাপিত হয়, তবুও ব্যবসাটি একটি ইউনিফাইড ইনপুট এবং আউটপুট চুক্তি দেখতে পাবে।
একবার এই স্তরটি প্রতিষ্ঠিত হলে, অনেকগুলি জিনিস যা মূলত অস্পষ্ট ছিল হঠাৎ করে পরিষ্কার হয়ে যাবে। কোন ক্ষেত্রগুলি প্রয়োজনীয় মান, কোন ক্ষেত্রগুলি কেবলমাত্র মডেল পছন্দ, কোন ব্যর্থতাগুলি পুনরায় চেষ্টা করা যেতে পারে, কোন ব্যর্থতাগুলিকে রোল ব্যাক করতে হবে, কোন প্রসঙ্গগুলিকে ছাঁটাই করা হবে এবং কোন সূচকগুলিকে সত্যিই তুলনা করা যেতে পারে সেগুলি “অভিজ্ঞতার দ্বারা মনে রাখা” থেকে “ইন্টারফেস দ্বারা সীমাবদ্ধ” তে পরিবর্তিত হবে৷ সীমিত মডেলের কারণে সৃষ্ট প্রভাবটি আর সরাসরি ব্যবসায়িক কোডে প্রবেশ করে না, তবে প্রথমে নিরপেক্ষ স্তরে প্রবেশ করে।
সব দৃশ্য এই স্তরের যোগ্য নয়
কিছু দৃশ্যের স্তরগুলি এত পুরু হওয়ার দরকার নেই। এক-সময়ের সারাংশ, অস্থায়ী প্রজন্ম, অভ্যন্তরীণ পরীক্ষা-নিরীক্ষা এবং সম্পূর্ণরূপে একক-মডেল লক করা টুল চেইন, এই জায়গাগুলিতে মডেলটিকে সংযুক্ত করার জন্য এটি যথেষ্ট। একটি স্বল্পস্থায়ী প্রক্রিয়ার জন্য একটি সম্পূর্ণ নিরপেক্ষ স্তর তৈরি করা শুধুমাত্র অগ্রিম খরচ ওভারড্র করা হবে।
এই স্তরটি প্রয়োজন যেখানে মডেলটি সত্যিই ব্যবসায়িক বিচারে অংশগ্রহণ করবে। যেমন নিষ্কাশন, রাউটিং, টুল এক্সিকিউশন, গ্রাহক পরিষেবা প্রতিক্রিয়া, পর্যালোচনা সহায়তা, এবং ব্যাচ পুনর্লিখন। এই পরিস্থিতিতে, মডেল একটি খেলনা নয়, কিন্তু প্রক্রিয়া একটি অংশ. যতক্ষণ পর্যন্ত মডেল পরিবর্তন হতে পারে, বা বাহ্যিক সীমাবদ্ধতা একটি নির্দিষ্ট প্রবেশদ্বারকে অস্থিতিশীল করতে পারে, নিরপেক্ষ স্তরটি সাজসজ্জা নয় বরং একটি প্রাচীর যা সীমানার মধ্যে পরিবর্তন রাখে।
কি সত্যিই ওপেন সোর্স মডেলকে সীমাবদ্ধ রাখতে বাধ্য করে তা একটি নির্দিষ্ট সরবরাহকারীর বিকল্প নয়, তবে দলটি "মডেল পার্থক্য"কে প্রথম শ্রেণীর নাগরিক হিসাবে বিবেচনা করে কিনা। কোডের ডিফল্ট আচরণ যত আগে ছড়িয়ে দেওয়া হবে, পরে মডেলগুলি পরিবর্তন করার সময় এটি কম প্যাসিভ হবে। মডেল পরিবর্তন হতে পারে, কিন্তু সীমানা অনুসরণ করা যাবে না.
What to read next
Want more posts about AI?
Posts in the same category are usually the best next step for reading more on this topic.
View same categoryWant to keep following #AI?
Tags are useful for related tools, specific problems, and similar troubleshooting notes.
View same tagWant to explore another direction?
If you are not sure what to read next, return to the homepage and start from categories, topics, or latest updates.
Back home