آیا هوش مصنوعی می تواند خودش را سریع تر توسعه دهد؟

تا همین چند سال پیش، ساخت یک مدل هوش مصنوعی پیشرفته به تیمی از پژوهشگران، مهندسان و متخصصان یادگیری ماشین نیاز داشت. انسان ها ایده ها را طراحی می کردند، کد می نوشتند، آزمایش انجام می دادند و تصمیم می گرفتند کدام تغییر ارزش ادامه دادن دارد. اما حالا بخشی از همین وظایف را خود هوش مصنوعی انجام می دهد. این تغییر یک سوال مهم ایجاد کرده است: اگر هوش مصنوعی در ساخت مدل های هوشمند نقش داشته باشد، آیا می تواند روزی نسل بعدی خودش را هم توسعه دهد؟

موضوع توسعه خودکار هوش مصنوعی دیگر صرفا یک فرضیه علمی تخیلی نیست. گزارش های شرکت هایی مانند Anthropic و OpenAI نشان می دهند که مدل های هوش مصنوعی در حال مشارکت جدی تر در فرایند تحقیق و توسعه هستند. با این حال، میان کمک به پژوهشگران و ساخت مستقل یک هوش مصنوعی قدرتمندتر تفاوت مهمی وجود دارد.

آیا هوش مصنوعی واقعا می تواند خودش را توسعه دهد؟

پاسخ کوتاه این است: هوش مصنوعی امروز می تواند بخش هایی از فرایند توسعه نسل بعدی خود را انجام دهد، اما هنوز به معنای کامل و مستقل، سازنده خودش نیست.

برای درک این تفاوت باید سه مفهوم را از هم جدا کنیم. در مرحله اول، هوش مصنوعی به عنوان ابزار کمکی عمل می کند؛ مثلا کد می نویسد یا خطاهای یک آزمایش را پیدا می کند. در مرحله دوم، عامل های هوشمند می توانند چند وظیفه مرتبط را با نظارت انسان انجام دهند و بخشی از فرایند تحقیق را خودکار کنند. مرحله سوم، خودبهبودی بازگشتی یا Recursive Self-Improvement است؛ وضعیتی که در آن یک سیستم بتواند نسخه بعدی خودش را طراحی، توسعه و بهبود دهد.

مرحله سوم هنوز به شکل کامل محقق نشده است. با این حال، فاصله میان سیستم های فعلی و چنین قابلیتی در حال بررسی جدی است.

چرخه خودبهبودی بازگشتی چگونه کار می کند؟

تصور کنید یک تیم تحقیقاتی می خواهد عملکرد یک مدل هوش مصنوعی را بهتر کند. ابتدا باید ایده ای برای بهبود پیدا کند، سپس کدهای لازم را بنویسد، آزمایش انجام دهد و نتایج را بررسی کند. اگر نتیجه موفقیت آمیز باشد، تغییر در نسخه بعدی مدل اعمال می شود.

حالا فرض کنید خود هوش مصنوعی بتواند بخش زیادی از این مراحل را انجام دهد. مدل می تواند کد آزمایش را بنویسد، چند روش مختلف را امتحان کند، خطاها را شناسایی کند و گزارش نتایج را در اختیار پژوهشگر قرار دهد. پژوهشگر نیز نتیجه را بررسی و مسیر بعدی را تعیین می کند.

اگر نسل جدید مدل در انجام همین وظایف بهتر عمل کند، می تواند به توسعه نسل بعدی کمک بیشتری کند. به این ترتیب یک چرخه بازخورد شکل می گیرد که در آن ابزار توسعه، خودش نیز با هر نسل قدرتمندتر می شود.

نکته مهم این است که افزایش سرعت اجرای وظایف لزوما به معنای توانایی انتخاب بهترین ایده علمی نیست. طراحی یک آزمایش با تصمیم گیری درباره اینکه چه مسئله ای ارزش تحقیق دارد، دو مهارت متفاوت هستند.

هوش مصنوعی چگونه به تحقیقات نسل بعدی خودش کمک می کند؟

یکی از مهم ترین کاربردهای فعلی مدل ها، برنامه نویسی است. توسعه مدل های پیشرفته به زیرساخت نرم افزاری پیچیده، ابزارهای ارزیابی و آزمایش های متعدد نیاز دارد. عامل های کدنویسی می توانند بخشی از این کارها را انجام دهند و زمان مورد نیاز مهندسان را کاهش دهند.

در گزارش رسمی Anthropic درباره خودبهبودی بازگشتی، این شرکت توضیح می دهد که Claude در حال حاضر سهم قابل توجهی از کدنویسی داخلی را انجام می دهد. طبق داده های منتشر شده توسط این شرکت، در مه ۲۰۲۶ بیش از ۸۰ درصد کدهای ادغام شده در مخزن کد Anthropic توسط Claude نوشته شده بود. همچنین شرکت گزارش کرده است که در سه ماهه دوم سال ۲۰۲۶، مهندسان آن به ازای هر نفر حدود هشت برابر بیشتر از سال ۲۰۲۴ کد ادغام می کردند.

البته خود Anthropic نیز تاکید می کند که تعداد خطوط کد معیار کاملی برای سنجش کیفیت یا بهره وری واقعی نیست. کد بیشتر لزوما به معنای تحقیق بهتر یا مدل قدرتمندتر نیست.

در طرف دیگر، گزارش OpenAI درباره شتاب تحقیقات نشان می دهد پژوهشگران این شرکت از عامل های کدنویسی در چند فرایند هم زمان استفاده می کنند. این عامل ها در نوشتن کد، رفع اشکال، بررسی آزمایش ها و پشتیبانی فنی نقش دارند. با این حال، OpenAI می گوید وظایف پیچیده همچنان به هدایت و مداخله انسانی نیاز دارند.

آیا سرعت تحقیقات هوش مصنوعی واقعا دو برابر شده است؟

یکی از مهم ترین شواهد جدید در این زمینه به ارزیابی موسسه METR مربوط می شود. خبرگزاری Reuters در گزارشی در ۵ نوامبر ۲۰۲۶ به نقل از این موسسه اعلام کرد که سرعت بهبود قابلیت های مدل های Anthropic در وظایف مشخص، نسبت به دوره قبلی حدود ۱.۹ برابر شده است.

این ارزیابی با استفاده از اطلاعات، مصاحبه ها و داده های عملکرد مدل های منتشرنشده انجام شده است. با این حال، METR درباره میزان دقیق شتاب عدم قطعیت قابل توجهی اعلام کرده است. بنابراین نباید عدد ۱.۹ برابر را به معنای دو برابر شدن قطعی سرعت توسعه تمام مدل های هوش مصنوعی در جهان دانست.

تحلیل Ajeya Cotra در Planned Obsolescence نیز بر اساس همین روند، احتمال شتاب گرفتن بیشتر تحقیقات را بررسی می کند. نویسنده سناریویی را مطرح می کند که در صورت ادامه و ترکیب این شتاب، زمان رسیدن به توانایی های بسیار پیشرفته می تواند به شکل چشمگیری کوتاه شود. با این حال، متن کامل گزارش METR در دسترس او نبوده و برآوردهای مطرح شده را نباید نتیجه رسمی METR دانست.

چرا افزایش بهره وری به معنای پیشرفت نامحدود نیست؟

ممکن است تصور شود اگر هوش مصنوعی بتواند کد بنویسد و آزمایش انجام دهد، سرعت پیشرفت آن بدون محدودیت افزایش پیدا می کند. اما تحقیق و توسعه تنها به اجرای سریع تر وظایف وابسته نیست.

یکی از محدودیت های اصلی، توان محاسباتی است. اجرای آزمایش های بزرگ به پردازنده های قدرتمند، حافظه و زیرساخت مناسب نیاز دارد. حتی اگر هوش مصنوعی بتواند ایده های زیادی پیشنهاد دهد، آزمایش همه آنها ممکن است از نظر هزینه و زمان امکان پذیر نباشد.

مسئله دیگر، دشوارتر شدن کشف ایده های جدید است. در مراحل اولیه توسعه یک فناوری، ممکن است راهکارهای ساده و موثری وجود داشته باشند؛ اما با پیشرفت بیشتر، پیدا کردن بهبودهای معنادار دشوارتر می شود.

پژوهش منتشر شده توسط Meta AI با عنوان AIRA₂ نیز به محدودیت های عامل های تحقیقاتی می پردازد. این پژوهش به چالش هایی مانند اجرای آزمایش ها، انتخاب راهکارهای مناسب بر اساس نتایج ارزیابی و محدودیت توانایی عامل ها در انجام وظایف پیچیده اشاره می کند.

این یافته نشان می دهد که حتی برای خودکارسازی تحقیق نیز فقط داشتن یک مدل قدرتمند کافی نیست؛ معماری سیستم، کیفیت ارزیابی و زیرساخت اجرا اهمیت زیادی دارند.

آیا توسعه خودکار هوش مصنوعی می تواند خطرناک باشد؟

یکی از نگرانی های اصلی، احتمال شکل گیری چرخه ای است که در آن سیستم های هوشمند با سرعتی بیشتر از توانایی انسان برای بررسی و کنترل آنها پیشرفت کنند. اگر یک مدل بتواند نسخه قدرتمندتری از خودش بسازد و آن نسخه نیز همین فرایند را سریع تر انجام دهد، ممکن است فاصله میان نسل های متوالی کوتاه شود.

پژوهشی با عنوان What if automating AI R&D triggers an intelligence explosion? که در صفحه Microsoft Research معرفی شده، این احتمال را بررسی می کند. موضوع اصلی آن پیامدهای احتمالی خودکارسازی تحقیق و توسعه و دشوارتر شدن کنترل سیستم های بسیار پیشرفته است.

بنابراین باید میان خطر احتمالی و اتفاق اثبات شده تفاوت قائل شد. مشارکت فعلی هوش مصنوعی در تحقیق و توسعه واقعی است، اما انفجار هوش مصنوعی و از دست رفتن کنترل انسان هنوز سناریوهایی هستند که وقوع آنها قطعی نیست.

این تحول برای کسب و کارها چه معنایی دارد؟

شاید صاحبان کسب و کار مستقیما درگیر توسعه مدل های پایه هوش مصنوعی نباشند، اما نتیجه این تغییر می تواند بر فعالیت روزانه آنها تاثیر بگذارد. وقتی ابزارهای هوشمند سریع تر و توانمندتر می شوند، هزینه و زمان انجام بسیاری از کارهای تخصصی نیز می تواند کاهش پیدا کند.

برای مثال، یک تیم بازاریابی می تواند از عامل های هوشمند برای بررسی داده ها، تحلیل رقبا، طراحی نسخه های مختلف محتوا و ارزیابی کمپین ها استفاده کند. در توسعه محصول نیز می توان بخشی از کدنویسی، آزمایش و رفع خطا را به این ابزارها سپرد.

با این حال، مزیت رقابتی فقط در دسترسی به ابزار نیست. توانایی تعریف مسئله درست، ارزیابی خروجی، تشخیص خطا و تصمیم گیری همچنان اهمیت دارد. کسب و کاری که بدون بررسی انسانی به خروجی هوش مصنوعی اعتماد کند، ممکن است سرعت بیشتری داشته باشد اما لزوما نتیجه بهتری به دست نیاورد.

برای آشنایی با کاربردهای عملی این فناوری در مدیریت فعالیت های دیجیتال، مقاله مدیریت وب سایت با ChatGPT در مجله اثرچین نیز می تواند نقطه شروع مناسبی باشد.

جمع بندی؛ آینده توسعه خودکار هوش مصنوعی به کجا می رسد؟

شواهد فعلی نشان می دهند که هوش مصنوعی دیگر فقط موضوع تحقیقات نیست، بلکه به یکی از ابزارهای اصلی انجام همین تحقیقات تبدیل شده است. مدل ها در برنامه نویسی، اجرای آزمایش ها، رفع اشکال و تحلیل نتایج نقش بیشتری پیدا کرده اند و این موضوع می تواند سرعت توسعه نسل های بعدی را افزایش دهد.

با این حال، توسعه خودکار هوش مصنوعی هنوز با خودساختگی کامل فاصله دارد. انتخاب اهداف تحقیقاتی، تشخیص ایده های ارزشمند، تامین زیرساخت و ارزیابی ایمنی همچنان از چالش های مهم این مسیر هستند.

برای کسب و کارها، پیام اصلی این تحول روشن است: استفاده از هوش مصنوعی را به انجام چند کار ساده محدود نکنید. فرایندهایی را شناسایی کنید که امکان خودکارسازی دارند، خروجی ها را با معیارهای مشخص بسنجید و تصمیم های مهم را زیر نظر نیروی انسانی نگه دارید. آینده متعلق به مجموعه هایی نیست که صرفا ابزارهای بیشتری دارند؛ بلکه به مجموعه هایی تعلق دارد که بهتر می دانند چگونه از این ابزارها استفاده کنند.

سوالات متداول

آیا هوش مصنوعی می تواند بدون دخالت انسان خودش را توسعه دهد؟

در حال حاضر مدل های هوش مصنوعی می توانند بخش هایی از تحقیق و توسعه را انجام دهند، اما هنوز شواهد کافی برای اثبات توانایی آنها در طراحی و ساخت کاملا مستقل نسل بعدی خود وجود ندارد.

منظور از خودبهبودی بازگشتی هوش مصنوعی چیست؟

خودبهبودی بازگشتی به فرایندی گفته می شود که در آن یک سیستم هوشمند به بهبود و ساخت نسخه بعدی خود کمک می کند و نسخه جدید نیز توانایی بیشتری برای تکرار همین فرایند دارد.

هوش مصنوعی چگونه به ساخت مدل های جدید کمک می کند؟

از طریق نوشتن کد، طراحی و اجرای آزمایش ها، رفع خطاها، بررسی نتایج و کمک به پژوهشگران در توسعه زیرساخت های مورد نیاز برای آموزش مدل ها.

آیا سرعت پیشرفت هوش مصنوعی واقعا دو برابر شده است؟

طبق ارزیابی METR که Reuters در نوامبر ۲۰۲۶ گزارش کرده، سرعت بهبود قابلیت های مدل های Anthropic در وظایف مشخص حدود ۱.۹ برابر شده است. این برآورد عدم قطعیت دارد و به معنای دو برابر شدن سرعت تمام تحقیقات هوش مصنوعی نیست.

مهم ترین محدودیت های توسعه خودکار هوش مصنوعی چیست؟

محدودیت توان محاسباتی، هزینه آزمایش ها، دشواری کشف ایده های جدید، ضعف در تصمیم گیری مستقل و نیاز به نظارت و ارزیابی انسانی از مهم ترین موانع هستند.

آیا خودبهبودی هوش مصنوعی برای انسان خطرناک است؟

این فناوری می تواند در صورت پیشرفت سریع تر از سازوکارهای ایمنی و نظارت، خطرهایی ایجاد کند. با این حال، سناریوهایی مانند از دست رفتن کنترل انسان هنوز قطعی نیستند و به بررسی و ارزیابی مستمر نیاز دارند.