Snapchat’ın ‘sürünən’ AI səhvləri bizə chatbots insanın olmadığını xatırladır. Lakin xətlər qarışdıqca, risklər böyüyür

Son Snapchat hadisəsində şirkət bütün şeyi “müvəqqəti bir kəsik” a endirdi. Əslində nəyin baş verdiyini heç bilməyəcəyik; Bu, AI “hallucinatng” və ya bir kiberaktənin nəticəsi və ya hətta bir əməliyyat səhvinin başqa bir nümunəsi ola bilər.

Snapchat ai

Сегодня мы запускаем My AI, нового чат-бота, работающего на последней версии технологии OpenAI GPT, которую мы адаптировали для Snapchat. Mənim ai доступен в качестве экспериментальной функции подписчиков snapchat +, которая появится на этой неделе.

Mənim ai может посоветовать иден подарков на деньдения для вашей лучшей подруги, спланировать поход на длинные выходные, pre Дложить Рецепт Ужина или иже написать хайку оере для вашего одержимого кеддером чеддером приятеля. Сделайтеim mənim ai своим собственным, Ему имя и настроив обои для своего чата.

Как и все чат-боты с искусственным интеллектом, mənim ai склонен к галлюцинациям, и Его можно обманом заставить говорить практи Чески все что угодно. Пожалуйста, помните о его многочисленых недостатках и заранее извините! Все разговоры с my будут сохранены и могут быть проанализированы для улучшения работы с продуктом. Не делитесь с mənim ai никакими секретами и не полагайтесь на его советы.

Хотя система My Ai Разработана Таким образом, Чтобы избегать необъективной, неверной, вредной или вводящей в заблуждение инфо Рмации, ошибки могут иметь место. Чтобы Оставить отзыв, Нажмите и удерживайте любое сообщение от AI. Мы будем рады услышать о вашем опыте работы с а AI.

Snapchat ai

Müəllif

1. DASWIN DE SILVA Məlumat Təhlili və İdrak Mərkəzi Müdir Köməkçisi, LA TROBE Universiteti

Açıqlama ifadəsi

Daswin de Silva, bu məqalədən faydalanacaq hər hansı bir şirkətin və ya təşkilatdan maliyyələşdirmə, öz səhmləri və ya maliyyələşdirmələri üçün işləmir.

Tərəfdaşlar

La Trobe Universiteti AU söhbətinin üzvü olaraq maliyyə təmin edir.

Süni intellekt-iş (AI) Chatbots, dizaynı ilə getdikcə insan kimi insan kimi olur, aramızdakı bəzilərinin insan və maşını ayırd etmək üçün mübarizə aparmaq üçün mübarizə apara bilər.

Bu həftə, SnapChat’ın AI Chatbot’u glitched və istifadəçilərə cavab vermədən əvvəl divar və tavana bənzəyən şeylərin bir hekayəsini göndərdi. Təbii ki, İnternet, ChatGept-güclü söhbətin indensiya qazandığını şübhə altına almağa başladı.

AI savadlılığında bir qəza kursu bu qarışıqlığa bürünmüş ola bilər. Ancaq bu, hadisə bizə xatırladır ki, AI Chatbots insanlara bənzəməyə yaxınlaşdıqca, onların rüsvaylarını idarə etmək yalnız daha çətinləşəcək və daha vacibdir.

Uyğunlaşma Chatbots-a əsaslanan qaydalardan

CHATGPT, keçən il son il sonlarında ekranlarımıza partladıldığı üçün bir çox rəqəmsal platformalar AI-ni öz xidmətlərinə inteqrasiya etdi. Bu məqaləni Microsoft Word-də hazırladığım kimi, proqramın proqnozlaşdırıcı AI qabiliyyəti mümkün cümlə tamamlanması təklif olunur.

Generativ AI olaraq bilinən, bu nisbətən yeni bir növ AI, dəqiq, insan kimi və zahirən mənalı olan yeni məzmun yaratmaq qabiliyyəti ilə sələflərindən fərqlənir.

. .

[…] Həqiqətən, həqiqətən yaxşı bir söz proqnozu.

Advanced LLMS də insan rəyləri ilə uyğunlaşdırılmışdır. Bu təlim, tez-tez çox saysız-hesabsız ucuz insan əməyi ilə çatdırılan, AI Chatbots-un indi insana bənzər söhbətlər edə biləcəyi səbəbidir.

Openai’nin ChatGpt hələ də flaqman generativ AI modelidir. Onun sərbəst buraxılması, onlayn müştəri xidmətində istifadə olunanlar kimi daha sadə “qaydalara əsaslanan” söhbətdən ibarət bir sıçrayışla qeyd olundu.

Danışan insan kimi söhbət üçün daha çox istifadəçi at bunlar daha yüksək nişan səviyyəsi ilə əlaqələndirilmişdir. Bir araşdırma, Chatbots’ın personallaşdırılması, zaman keçdikcə psixoloji asılılığa çevrilə bilər. Stressli iştirakçıların bir insana bənzər bir söhbət tapdığı başqa bir araşdırma daha çox səlahiyyətli kimi qəbul edildiyini və buna görə iştirakçıların stresini azaltmağa kömək edəcəkdir.

Bu Chatbots, pərakəndə, təhsil, iş yeri və səhiyyə parametrləri də daxil olmaqla müxtəlif parametrlərdə təşkilati vəzifələri yerinə yetirməkdə də təsirli oldu.

Google, həyat tövsiyələri və intim suallara cavab vermək, o cümlədən həyat tövsiyəsi və cavab vermək və cavab vermək, o cümlədən müxtəlif şəxsi və peşəkar vəzifələri olan insanlara kömək edəcək “şəxsi həyat məşqçisi” in hazırlamaq üçün generativ AI istifadə edir.

Bu, Google’un öz AI təhlükəsizlik mütəxəssislərinə baxmayaraq istifadəçilərin AI-dən çox böyüdə biləcəyi və “sağlamlıq və rifah” və “Agentliyin itirilməsi” və “Agentliyin itkisi” və “Agentliyin itkisi” və “Agentliyin itkisi” və “Agentliyin itirilməsi” və “Agentliyin itirilməsi” və “Agentliyin itirilməsi” və “Agentliyin itirilməsi” və “Agentliyin itirilməsi” və “Agentliyin itirilməsi” və “Agentliyin itirilməsi” və “Agentliyin itkisi” yaşaya bilsinlər.

Dost və ya düşmən – və ya sadəcə bir bot?

Son Snapchat hadisəsində şirkət bütün şeyi “müvəqqəti bir kəsik” a endirdi. Əslində nəyin baş verdiyini heç bilməyəcəyik; Bu, AI “hallucinatng” və ya bir kiberaktənin nəticəsi və ya hətta bir əməliyyat səhvinin başqa bir nümunəsi ola bilər.

Hər iki halda, bəzi istifadəçilərin chatbot-a nail olunduğunu güman edən sürət, AI-nin misli görünməmiş bir antropomorfizmi gördüyümüzü təklif edir. .

.

Bu ilin əvvəlində bir Belçika adamının intiharı, iqlim hərəkətsizliyi və planetin gələcəyi ilə bağlı bir söhbətlə əlaqəli söhbətlərə aid idi. Başqa bir misalda, Tessa adlı bir ChatBot, yemək iğtişaşları ilə bir yemək pozğunluğu vasitəsi ilə insanlara zərərli tövsiyələr təqdim etdi.

Chatbots, bizim aramızda daha həssas və xüsusilə psixoloji vəziyyəti olanlara zərərli ola bilər.

?

. Bir humanoid robotu görəndə əldə etdiyiniz bu narahat hissə aiddir təxminən İnsan görünür, amma onun cüzi qüsurları onu verir və sürünən sona çatır.

. Bir az blip boyun arxasındakı tükləri qaldıra bilər.

. Ancaq bu, nişan və yenilik hesabına gələcək.

Təhsil və şəffaflıq əsasdır

. Hələ bəzi yollarla (və kommersiya qurumları qədər olduğu kimi) faydaları risklərdən üstündür.

Generativ AI, məhsuldarlıq, səhiyyə, təhsil və hətta sosial kapital kimi böyük biletli əşyalarda faydalılığını nümayiş etdirdi. Getmək çətindir. Beləliklə, bunu bizim üçün necə işlədirik?

2018-ci ildən etibarən hökumətlər və təşkilatların AI risklərini həll etməsi üçün əhəmiyyətli bir təkan var. Ancaq hər hansı digərlərindən daha çox “insan kimi” bir texnologiyaya cavabdeh standartları və qaydalar tətbiq etmək.

Hal-hazırda, Avstraliya müəssisələri, Chatbots-in istifadəsini açıqlaması üçün heç bir qanuni tələb yoxdur. ABŞ-da Kaliforniyada bunu tələb edəcək bir “bot qanun layihəsini” təqdim etdi, lakin hüquq mütəxəssisləri içərisində çuxurlar vurdular və qanun layihəsi bu yazını yazarkən hələ də tətbiq edilməlidir.

Üstəlik, ChatGpt və Oxşar ChatBots “Tədqiqat baxışları” olaraq ictimailəşdirilir. Bu, tez-tez prototipik xarakterində çoxsaylı açıqlamalarla gəlir və məsul istifadə üçün onus istifadəçiyə düşür.

. Rəqəmsal savadlılığa bənzər AI savadlılığı məktəblərdə, universitetlərdə və təşkilatlarda səlahiyyətləndirilməlidir və həmçinin pulsuz və ictimaiyyət üçün əlçatan olmalıdır.

• Süni intellekt (AI)
• Texnologiya
• Qarın
• AI modeli
• Chatgpt

Snapchat AI Chatbot istifadə edirsiniz??

Aprel ayında Snap, AI-Güclü Chatbot, AI, Snapchat istifadəçiləri üçün əlçatandır. Şirkət 150 milyondan çox istifadəçinin Chatbot ilə danışdığını bildirir. Snap deyir ki, AI Chatbot, chatgpt-dən daha çox qvşatlarla təchiz olunmuşdur ki, bu da counter snaphatters üçün daha təhlükəsiz etməlidir.

Statistanın sözlərinə görə, qlobal snapchat istifadəçilərinin təxminən 20% -i 13 və 17 yaş arasındadır, buna görə uşaqların Chatbot-un çıxara biləcəyi uyğun olmayan məzmuna məruz qalmadığı çox vacibdir. Ancaq bot olan bəzi eksperimental söhbətlərdə istifadəçilər Snapchatın botunun yetkinlik yaşına çatmayan maddə istifadəsi və cinsi fəaliyyətlə necə məşğul olacağını izah etdilər.

Snapchatters ilk dəfə AI ilə eksperimental olaraq söhbətə başladıqda, çoxları çox sayda Chatbotun yerlərinə girişi ilə maraqlanırdılar. Aİ-nin bir istifadəçinin yeri olub olmadığını soruşduqda, dərhal geolokasiya məlumatlarına giriş əldə edə bilər.

Ancaq bir istifadəçi öz ərazilərində bir restoran tövsiyəsini istədi, AI, botun snapchatters yerini əldə etdiyini sübut edərək onları təmin edə bilər. İnsanlar mənim Aİ-nin narahat olduqlarını ifadə etmək üçün Twitter-ə apardılar və botun hansı istifadəçi məlumatlarının daxil ola biləcəyi barədə maraqlanmağa başladılar.

Beləliklə, mənim ai mənim hansı məlumatlar toplayır və snap nə edir?

Yer

Snapchat’ın yerinizə daxil olmasına icazə versəniz, mənim AI yerinizə daxil ola bilər. Snap deyir ki, AI sizdən heç bir yeni məkan məlumatları toplamır və yalnız snapchat üçün verdiyiniz məlumatlardan çəkir.

Bəzi istifadəçilər, yerinizi dostlarınızdan gizlətməyə və sizi Snap xəritəsindən çıxarmağa imkan verən Ghost rejimi adlanan bir snapchat xüsusiyyətini təmin edir. . Snap deyir ki, xəyal rejimi ilə belə, mənim AI, Snapchat-a yer izləmə icazəsi verdiyiniz təqdirdə, mənim AI yerinizə daxil ola bilər.

Söhbət

Snap, əllərinizi silməklə, Aİ-nin SnapChat serverlərindən çıxarılacağı ilə söhbət məlumatlarınız üçün 30 gün çəkə bilər. Snap, AI modelini yetişdirmək və fərdi reklamlarla sizi daha yaxşı hədəf almaq üçün AI ilə söhbətlərinizdən istifadə edir.

SnapChat’ın məxfilik siyasəti, bütün alıcılar onları gördükdən sonra Snapchat serverlərindən silindiyini bildirir. Ancaq Snap, AI-yə göndərilən söhbətlərin bu təlimata tabe olmadığı və yalnız silmək üçün snapchat istəsəniz, yalnız silindiyi aydın bir fərq yaradır. Aİ-yə göndərdiyiniz hər hansı bir səs və ya fotoşəkilləri saxlayan və yalnız özünüz etsəniz silmək olar.