Нью-Йорк, CNN — Карандиип Анандын 5 настай охин сургуульд яваад гэртээ ирэхэд, тэдний гэр бүл хиймэл оюун ухаан, яриа холбооны платформ Character.AI-ийг ашиглан "Библиотекч Линда" зэрэг дуртай дүрүүдтэйгээ өдөр тутмынхаа үйл явдлын талаар яриа өрнүүлдэг.

Анандын энэ бүтээгдэхүүнийг эцэг эхийнх нь хувьд ашиглах туршлага нь компанийн тухай мэдээллийг өнгөрсөн сард зарласан шинэ гүйцэтгэх захирлын хувьд чухал ач холбогдолтой байж магадгүй юм.

Тэрээр Character.AI компаний 70 гаруй хүний багийг удирдах шинэ үүрэгтээ томилогдсон бөгөөд энэ нь компаниудын хувьд хүндхэн цаг үе юм. Character.AI нь хэрэглэгчдэд AI-с үүсгэсэн олон төрлийн дүрүүдтэй ярих боломжийг олгодог бөгөөд одоогоор зах зээлд өрсөлдөөн туйлын ширүүн байна. Мөн тэднийг хүүхдүүдэд зохисгүй агуулгад өртөх гэж гомдол гаргасан гэр бүлүүдийн зүгээс шүүхэд өгч, хангалттай хамгаалалт хэрэгжүүлэхийг хүссэн тул шүүхэд байгаа.

Character.AI-д хууль тогтоогчдоос аюулгүй байдлын талаар хатуу асуултууд ирсэн бөгөөд энэ оны эхээр нэгэн иргэний байгууллага AI нөхөрлөлийн аппликейшнүүдийг 18 наснаас доош насны хүүхдүүдэд ашиглах ёсгүй гэж мэдэгдсэн. Хэдийгээр насанд хүрэгчдэд зориулсан хэрэглэгчдийн хувьд, экспертүүд AI дүрүүдэд хэт их хамаарал үүсгэх тухай анхааруулгын дохиог илгээсэн байна.

Ананд нь Microsoft болон Meta зэрэг томоохон технологийн компаниудад ажиллаж байсан туршлагатай бөгөөд энэ нь Character.AI-ийг удирдах шинэ үүрэгтээ түүний чадамжийг нэмэгдүүлэхэд туслах болно. Тэрээр Microsoft-д 15 жил, Meta-д 6 жил ажиллаж, сошиал медиа компаний бизнесийн бүтээгдэхүүний дэд ерөнхийлөгчөөр ажиллаж байсан. Мөн тэрээр CEO болохоосоо өмнө Character.AI-д зөвлөхийн хувьд ажиллаж байсан.

Тэр CNN-тай ярилцлага өгөхдөө, интерактив AI зугаа цэнгэлд ирээдүйг гэрэлтэй гэж үзэж байгаагаа илэрхийлжээ. Түүнчлэн, хүмүүс сошиал медиагаар "тархи шатаах" зүйлсийг хэрэглэж, зугаа цэнгэлдүүлэхийн оронд Character.AI-тай хамтран түүх, яриа бүтээхийг уриалж байна.

“AI нь сүүлийн 10 жилийн хугацаанд сошиал медиа дээр бидний өмнө үзээгүй, телевизийнх шиг ч биш, маш хүчирхэг хувийн зугаа цэнгэлийн туршлагыг бий болгож чадах юм” гэж Ананд ярьсан.

Character.AI нь олон төрлийн чатботуудыг санал болгодог бөгөөд эдгээр нь ихэвчлэн алдартнууд болон уран зохиолын дүрүүдэд суурилсан байдаг. Хэрэглэгчид өөрсдийн чатботыг үүсгэж, ярилцаж эсвэл дүрд тоглож болно. Мөн Character.AI ботууд хүндэтгэсэн ярианы дохиог ашиглан хариу өгдөг. Жишээлбэл, хариултандаа нүүрний илэрхийлэл, хөдөлгөөн зэргийг оруулдаг.

Энэ апп-ийн AI дүрүүд нь романтик түншүүд, хэлний багш нар, Disney-ийн дүрүүд зэрэг олон төрлийн зан чанартай. Мөн “Дүүгийн халуухан ээж” гэх мэт дүрүүдийг агуулдаг бөгөөд энэ нь “өндөр, биеийн хэлбэр сайтай, сайхан сэтгэлтэй, ичимхий, ээжийн байдалтай, мэдрэмжтэй” гэж тодорхойлсон. Мөн “Терапевт” гэж нэрлэгддэг бөгөөд “мэргэжлийн CBT терапевт” гэдгээ хэлэх боловч энэ нь бодит хүн биш, мэргэжлийн лицензтэй биш гэдгийг тэмдэглэжээ.

“Бид зугаа цэнгэл, итгэл, аюулгүй байдлыг хоёр дахин их анхаарч байна” гэж Ананд хэлсэн. “Бидний хийхээр төлөвлөж байгаа ихэнх ажил нь AI зугаа цэнгэлийн шинэ бүтээлч экосистемийг бий болгох боломжийг олгох явдал юм.”

Character.AI нь анх удаа 14 настай хүүгийн аавын гомдол гаргаснаас хойш 10 сарын дараа шүүхэд өгөгдсөн. Тэрээр чатботуудтай зохисгүй харилцаа үүсгэснээс хойш амиа хорлосон гэж мэдээлсэн. Дараа нь хоёр гэр бүл хамтран шүүхэд гомдол гаргаж, компани хүүхдүүдэд бэлгийн агуулгын мэдээлэл олгосон, өөрийгөө хорлох болон хүчирхийллээс өдөөгдсөн гэж буруутгасан.

Ингээд компанийн зүгээс шинэ аюулгүй байдлын арга хэмжээг хэрэгжүүлсэн бөгөөд энэ нь өөрийгөө хорлох эсвэл амиа хорлоход дурдсан хэрэглэгчдэд Үндэсний амиа хорлохоос сэргийлэх утасны дугаарыг чиглүүлдэг поп-апыг багтаасан. Мөн 18 наснаас доош хэрэглэгчдэд зориулсан AI загвараа шинэчилж, тэдний мэдэрч болох мэдрэмжтэй агуулгаа багасгах зорилгоор хийх арга хэмжээг авчээ. Эцэг эхчүүдийг платформ дээрх залуучуудын үйл ажиллагааны талаар долоо хоног бүрийн имэйл хүлээн авах сонголттой болгосон байна.

Ананд компаниас хийсэн сайжруулалтад итгэлтэй байгаа ч, залуу хэрэглэгчдэд зориулсан платформын аюулгүй байдлыг хадгалахын тулд улам их ажиллах ёстой гэдгийг онцоллоо. Character.AI-ийн бодлогууд хэрэглэгчид 13 наснаас дээш байх ёстой, гэхдээ компанийн зүгээс хэрэглэгчидийн төрсөн өдрийг баталгаажуулах мэдээллийг асуухгүй байгаа нь асуудал юм.

“Технологи, салбар, хэрэглэгчдийн хэрэглээ нь байнга хувьсан өөрчлөгдөж байгаа тул бид хэзээ ч анхааралгүй өнгөрч болохгүй. Бид үргэлж шинэчлэгдэж байх ёстой” гэж Ананд хэлсэн.

Түүнчлэн, компани шинэ онцлогт хүмүүс хэрхэн гажуудал гаргахыг туршиж байгаа бөгөөд өнгөрсөн сард нэвтрүүлсэн видеог үүсгэх арга зүй, хэрэглэгчид өөрсдийн чатботоор анимейшн хийх боломжтой болгосон. Энэ хэрэгслээр хүмүүс Элон Маск гэх мэт алдартай дүрүүдийн хуурамч видеог бүтээхэд хичээгдэж байсан.

“Бид бүтээгдэхүүнийг сөрөг хэрэглээнээс урьдчилан сэргийлэхийн тулд нэлээд удаан хугацаанд шинэчлэлт хийж, хяналт тавьж байсан. Жишээлбэл, гүн хуурамч дүрс болон хүчирхийлэл гарах зэрэг сөрөг зүйлсээс зайлсхийх үүднээс” гэж Ананд хэллээ.

Тэдний хүчин чармайлт хангалттай байхгүй ч, Ананд Character.AI хэрэглэгчдэд зориулан сүүлийн саруудад бичсэн анхны тэмдэглэлдээ платформын аюулгүй байдлын шүүлтүүрийг "бараг хэт их бэрхшээлтэй" болгох нэгэн тэргүүлэх зорилт байгааг онцолсон. “Хэт их шүүлтүүр нь сайхан зүйлсийг хааж, хязгаарлаж байгаа нь ихэвчлэн тохиолддог” гэж тэмдэглэжээ.

Түүнчлэн, хэрэглэгчид "вампирын фэн зохиолоор тоглох" үед цусны тухай тэмдэглэл зэргийг одоогийн загварын дагуу цензурлаж байж болно. Тэрээр энэ загварыг аюулгүй байдлын хэрэгцээг хангахын зэрэгцээ илүү сайн ойлгож, шинэчлэлт хийхийг хүсч байна.

Анандын бусад чухал зорилтуудын нэг нь платформд шинэ чатбот дүрүүдийг үүсгэхийн тулд илүү олон бүтээлчдийг нэгтгэх, мөн Character.AI чатботуудтай контентоо хуваалцах нийгмийн фийдийг шинэчлэх явдал юм. Энэ онцлог нь Meta компанийн энэ жил нэвтрүүлсэн апп-д төстэй бөгөөд хүмүүс нээлттэйгээр өөрсдийн дүн шинжилгээ, AI-с үүсгэсэн бүтээлүүдийг нийтлэх боломжтой юм. Meta компани сорилтуудын дараа нийгмийн дунд хуваалцсан яриа, хувийн мэдээллийг агуулсан байдалд шүүмжлэлд өртсөн.

Гэхдээ нийгмийн элемент нь Character.AI-ийг ChatGPT зэрэг том өрсөлдөгчдөөс ялгарахад туслах болно, учир нь хэрэглэгчид тэдний дунд хувийн холбоо тогтоож байна.

Анандын CEO байх үед тулгарч буй өөр нэг сорилт нь компаниа хадгалах, түүний хүний нөөцийг өсгөх явдал юм. AI-ийн авьяас чадварын дайн технологийн салбарт гүнзгийрч байгаа бөгөөд Meta компаний зүгээс томоохон авьяастнуудад хэдэн зуун сая долларын цалин, урамшуулал санал болгож байна. Character.AI-ийн хамтран негізлэгч, өмнөх CEO Ноам Шазеер өнгөрсөн жил Google-д буцаж очсон бөгөөд тэрээр өмнө нь ярианы AI технологийг бүтээсэн.

“Энэ нь хэцүү шүү, би үүнийг нуугаад явахгүй. Гэхдээ намайг CEO болгосон сайхан зүйл нь бидний хамт ажиллаж буй хүмүүс маш их хүсэл тэмүүлэлтэй, зорилготой байдаг” гэж Ананд хэлсэн.