کلاهبرداری‌های تلفنی مبتنی بر هوش مصنوعی و صدای شبیه‌سازی‌شده روزبه‌روز گسترده‌تر می‌شوند. برای تارینی پادمانابونی، این تهدید دیجیتالی زمانی ملموس و دردناک شد که پدربزرگش قربانی صدای جعل‌شده برادرش گردید. این اتفاق جرقه‌ای شد تا او استارتاپ DetectifAI را راه‌اندازی کند؛ نوآوری جدیدی که اکنون در رقابت بزرگ Startup Battlefield در رویداد تک‌کرانچ دیسراپت درخشان ظاهر شده است.
وقتی جرم سایبری به درون خانواده نفوذ می‌کند
فناوری هوش مصنوعی مولد در کنار تمام مزایای بی‌نظیر خود، ابزارهای خطرناکی را نیز در اختیار مجرمان سایبری قرار داده است. شبیه‌سازی صوت یا Voice Cloning یکی از تازه‌ترین و مخرب‌ترین این ابزارهاست. تنها با چند ثانیه فایل صوتی ضبط‌شده از یک فرد، مدل‌های پیشرفته هوش مصنوعی می‌توانند صدایی کاملاً مشابه تولید کنند که تشخیص آن برای گوش انسان تقریباً غیرممکن است.
پدربزرگ تارینی پادمانابونی نیز در دام همین تکنولوژی افتاد. کلاهبرداران با استفاده از صدای شبیه‌سازی‌شده برادر وی، تماس تلفنی برقرار کرده و با ایجاد حس اضطرار، مبلغ قابل توجهی از او کلاهبرداری کردند. این تجربه تلخ خانوادگی، تارینی را متوجه یک خلا بزرگ در بازار امنیت سایبری کرد: نبود ابزاری لحظه‌ای (Real-time) و دسترس‌پذیر برای تشخیص صداهای جعلی در تماس‌های روزمره.
تولد DetectifAI؛ هوش مصنوعی در نقش سپر دفاعی
تارینی پادمانابونی پس از این حادثه بی‌کار ننشست و استارتاپ DetectifAI را در سان‌فرانسیسکو پایه‌گذاری کرد. هدف اصلی این استارتاپ توسعه مدل‌های هوش مصنوعی فوق‌العاده سبک و بهینه‌ای است که می‌توانند به‌طور مستقیم روی پردازنده‌های گوشی‌های هوشمند اجرا شوند و ناهنجاری‌های صوتی ناشی از دیپ‌فیک را در همان لحظه تماس شناسایی کنند.
فناوری پردازش روی دستگاه (On-Device AI)؛ کلید امنیت و حریم خصوصی
بزرگ‌ترین چالش در تشخیص دیپ‌فیک‌های صوتی، زمان و حریم خصوصی است. اگر قرار باشد صدای مکالمه برای تحلیل به سرورهای ابری (Cloud) ارسال شود، دو مشکل بزرگ پیش می‌آید:
۱. تاخیر در زمان پردازش: کلاهبرداری صوتی در چند ثانیه رخ می‌دهد و هرگونه تاخیر می‌تواند منجر به پرداخت پول یا افشای اطلاعات شود.
۲. تهدید حریم خصوصی: کاربران تمایلی ندارند صدای مکالمات شخصی و حساس آن‌ها به سرورهای جانبی ارسال گردد.
راهکار DetectifAI استفاده از معماری On-Device AI است. این استارتاپ مدل‌های هوش مصنوعی خود را به قدری کوچک و بهینه کرده است که بدون نیاز به اینترنت و بدون فدا کردن شارژ باتری، روی تراشه‌های پرچمدار و میان‌رده تلفن‌های همراه اجرا می‌شوند. این مدل‌ها فرکانس‌ها، الگوی تنفس، بافت صوتی و ناهنجاری‌های الگوریتمی را تحلیل کرده و در صورت تشخیص صدای جعلی، بلافاصله به کاربر هشدار می‌دهند.
درخشش در رقابت Startup Battlefield تک‌کرانچ
تلاش‌های تارینی و تیمش باعث شد تا DetectifAI به عنوان یکی از شرکت‌های منتخب برای حضور در رقابت پرطرفدار Startup Battlefield در رویداد TechCrunch Disrupt انتخاب شود. این رویداد که یکی از معتبرترین صحنه‌ها برای معرفی استارتاپ‌های نوظهور جهان است، فرصتی استثنایی برای جذب سرمایه و توسعه بیشتر این فناوری دفاعی فراهم می‌کند.
کارشناسان معتقدند با همه‌گیر شدن ابزارهای هوش مصنوعی مولد، نیاز به راهکارهای "ضد دیپ‌فیک" به یک بازار چند میلیارد دلاری تبدیل خواهد شد و استارتاپ‌هایی مانند DetectifAI در خط مقدم این نبرد سایبری قرار دارند.
خطرات دیپ‌فیک برای برندها و کسب‌وکارها
اگرچه داستان DetectifAI با یک کلاهبرداری خانوادگی آغاز شد، اما تهدید دیپ‌فیک صوتی و تصویری بسیار فراتر از اشخاص حقیقی است. امروزه مجرمان سایبری با شبیه‌سازی صدای مدیران ارشد شرکت‌ها (CEO Fraud)، اقدام به دستور انتقال وجه یا سرقت داده‌های تجاری می‌کنند. از سوی دیگر، تولید ویدیوها و صداهای جعلی از برندها می‌تواند اعتبار چندساله یک کسب‌وکار را در چند دقیقه نابود کند.
بنابراین، شناخت ابزارهای هوش مصنوعی و ایمن‌سازی زیرساخت‌های دیجیتال، دیگر یک انتخاب نیست بلکه الزامی حیاتی برای تمام فعالان حوزه فناوری و کسب‌وکار است.
نتیجه‌گیری
داستان بنیان‌گذار DetectifAI نشان می‌دهد که چگونه یک تجربه تلخ شخصی می‌تواند به نوآوری بی‌نظیری در حوزه امنیت هوش مصنوعی تبدیل شود. با پیچیده‌تر شدن تهدیدات دیپ‌فیک، الگوریتم‌های هوشمند و محلی (On-Device) تنها راه نجات کاربران در برابر کلاهبرداری‌های مدرن خواهند بود.
---
منبع: TechCrunch
---
خدمات هوش مصنوعی و دیجیتال مارکتینگ تیکینو
دنیای هوش مصنوعی با سرعتی باورنکردنی در حال تغییر است و کسب‌وکارهایی موفق می‌شوند که از این موج تکنولوژی به نفع خود استفاده کنند. آژانس تیکینو با بهره‌گیری از جدیدترین فناوری‌های هوش مصنوعی، خدمات تخصصی زیر را به شما ارائه می‌دهد:
- طراحی سایت اختصاصی و مدرن: ساخت وب‌سایت‌های سریع، ایمن و بهینه‌سازی‌شده برای الگوریتم‌های جدید.
- ادغام و پیاده‌سازی هوش مصنوعی: ادغام ابزارهای هوشمند، چت‌بات‌ها و سیستم‌های پردازش داده در وب‌سایت شما.
- سئو و بهینه‌سازی موتورهای جستجو: ارتقای رتبه سایت در گوگل با استراتژی‌های محتوایی مبتنی بر هوش مصنوعی.
- دیجیتال مارکتینگ و برندسازی: هوشمندسازی کمپین‌های تبلیغاتی برای افزایش نرخ تبدیل و حفاظت از اعتبار آنلاین برند شما.