Sora 2, nýtt forrit frá OpenAI, hefur vakið athygli með því að búa til umdeildar auglýsingar fyrir leikföng tengd „Epstein Island“. Myndbandið, sem er að verða vægast sagt vinsælt á samfélagsmiðlum, líkist auglýsingu frá níunda áratugnum, en það inniheldur ýmislega óvenjulega þætti, þar á meðal leynilega nuddherbergi og grínmynd af „Orange Man“ sem líkist Donald Trump.
Narratorinn í myndbandinu segir: „Slakaðu á með tveimur karlmönnum!“ og kynnir „eina eyjuna með raunverulegum spía myndavélum falnum í leynilegum herbergjum.“ Myndbandið er dökkur sátíra sem gerir grín að Jeffrey Epstein, fjárfestinum sem var sakaður um að stunda mansal á ólögráða stúlkum á Karíbahafseyjunni sinni. Þessi nýja tækni, sem kemur með TikTok-líkum appi fyrir deilingu á AI-sköpuðum klippum, er að skila skondnum og óvenjulegum myndböndum.
Myndbandið hefur leitt til umdeildra viðbragða. Margir hafa tjáð skoðanir sínar á X, þar sem einn skrifar: „Þetta er ekki AGI. Sem foreldri finnst mér þetta óþolandi.“ Aðrir hafa haldið því fram að OpenAI gæti staðið frammi fyrir lögsókn vegna efnisins. Síðasta málið tengist því að Sora 2 hefur verið gagnrýnt fyrir að leyfa slíka efnisframleiðslu, sem er viðkvæmt og tengist alvarlegum glæpum.
Spurningarnar um hvernig eigi að stýra innihaldi á Sora 2 eru alvarlegar, sérstaklega þar sem fyrirtækið hefur þegar lent í deilum vegna dauða sem tengjast notkun þess á sinni fyrri tækni. Með því að stíga inn á samfélagsmiðla er OpenAI að opna sig fyrir stöðugri gagnrýni um hvaða efni verður leyft, sem hefur verið áhyggjuefni fyrir ýmis önnur samfélagsmiðla.
Í öryggisskjalinu fyrir Sora 2 er sagt að það sé til staðar ritskoðun sem „blokkar óöruggt efni áður en það er framleitt – þar á meðal kynferðislegt efni, hryðjuverkaskilaboð og sjálfsvíg.“ Hins vegar sýnir „Epstein Island“ myndbandið að slíkar ritskoðanir geta verið takmarkaðar. Nýlegar umræður á X hafa bent á að efni tengt Epstein sé dýrmætlega óviðeigandi og kalli á alvarlegar siðferðislegar, lagalegar og félagslegar spurningar.
Hvernig Sora 2 mun takast á við þetta flókna efni í framtíðinni er enn óljóst, en ljóst er að á meðan fyrirtæki stíga inn í samfélagsmiðla, munu þau alltaf mæta slíkum umdeildum efnum.
