ابزار هوش مصنوعی OpenAi متن نوشته شده توسط Ai را تشخيص نمیدهد!
سازنده هوش مصنوعی ChatGPT ابزار تشخیص متن نوشته شده با هوش مصنوعی خود را غیرفعال کرد!
شرکت OpenAI ابزاری را که قرار بود نوشته‌های انسان را از متن نوشته شده توسط هوش مصنوعی تشخیص دهد غیرفعال کرد. این شرکت مطرح که سازنده‌ی ربات ChatGPT است، تصمیم گرفته تا ابزار ناکارآمد خود را به دلیل میزان دقت پایین آن خاموش کند. بنابراین آن‌ها از 20 جولای، ابزار طبقه‌بندی کننده متن تولید شده توسط هوش مصنوعی خود را غیرفعال کردند.
سازنده ChatGPT ابزار تشخیص متن نوشته شده با هوش مصنوعی را خاموش کرد
اما همزمان با خاموش کردن ابزار تشخیص نوشته‌های تولید شده توسط هوش مصنوعی، OpenAI ادعای بزرگی کرد. این شرکت گفت که قصد دارد “مکانیسم‌هایی را توسعه دهد که نه‌تنها متن، بلکه محتوای صوتی یا تصویری تولید شده توسط هوش مصنوعی را نیز تشخيص می‌دهد.” با این‌حال، هنوز هیچ صحبتی در مورد ماهیت این مکانیسم‌ها وجود ندارد. آن‌ها افزودند:
ما درحال کار بر روی بازخورد‌ها و رفع مشکلات هستیم و درحال حاضر در مورد تکنیک‌های پایه‌ای موثرتر برای تشخيص متن تحقیق می‌کنیم.
شرکت OpenAi، سازنده ChatGPT، به‌طور کامل به ناکارآمد بودن ابزار تشخيص متن خود اعتراف می‌کند. آن‌ها گفتند این طبقه‌بندی‌کننده هرگز در پیدا کردن متن‌های تولید شده با هوش مصنوعی خوب نبوده است. بنابراین هشدار دادند که این ابزار هوش مصنوعی میتواند اشتباها متن نوشته شده توسط انسان را به‌عنوان متن تولید شده توسط هوش مصنوعی برچسب‌گذاری کند. شرکت OpenAI وعده می‌دهد که این ابزار طبقه‌بندی کننده میتواند به‌لطف تجربیات و بازخورد‌های اخیر بهتر شود.
هوش مصنوعی یا AI چیست و چه توانایی هایی دارد؟ (به بیان ساده)
اشتباهات هوش مصنوعی میتواند خطرناک باشد!
مدت کمی از انتشار برنامه‌ی ChatGPT توسط OpenAI می‌گذرد. اما این‌روزها، این برنامه یکی از سریع‌ترین برنامه‌های درحال رشد است. مردم با عجله برای درک این فناوری تلاش می‌کنند. از طرفی چندین بخش نیز زنگ خطر را درمورد متن و هنر تولید شده توسط هوش مصنوعی به صدا درآورده‌اند. یا معلمان نگران هستند که دانش‌آموزان دیگر درس نخوانند و تکالیف خود را فقط به ChatGPT بسپارند.
از سمت دیگر، اطلاعات نادرست از طریق هوش مصنوعی نیز نگران‌کننده هستند. مطالعات نشان می‌دهد متن‌های تولید شده توسط هوش مصنوعی، مانند توییت‌ها، ممکن است حتی قانع‌کننده‌تر از نوشته‌های انسان باشد! دولت‌ها هنوز نفهمیده‌اند که چگونه هوش مصنوعی را مهار کنند. بنابراین تاکنون این موضوع را به گروه‌ها و سازمان‌های خصوصی واگذار کرده‌اند تا قوانین شخصی خود را دراین‌باره تنظیم کنند. به‌نظر می‌رسد که درحال حاضر، هیچ‌کس حتی OpenAI، شرکتی که در وهله‌ی اول به گسترش و فراگیری هوش مصنوعی کمک کرد، پاسخی درمورد چگونگی مقابله با این‌همه تاثیر و قدرت را ندارد!
آزمون هوش مصنوعی: چقدر تکنولوژی AI را می‌شناسید؟ خب تست کنید!
منبع: مجله اینترنتی نیونیوز1 و Theverge
