Egy egészen elképesztő történetről számolt be nemrégiben néhány amerikai lap, miszerint a közelmúltban a Baltimore megyei Kenwood High School iskola mellett letartóztattak egy 16 éves fiatalt, miután a mesterséges intelligencia a kezében lévő zacskós chipset fegyvernek vélt.
Amerikában a fegyverviselési törvény miatt szinte hetente történnek fegyveres támadások a különböző iskolákban, emiatt Baltimoreban elkezdték bevetni a mesterséges intelligenciát, egészen pontosan az Omnilert nevű cég által fejlesztett szoftver. Ennek lényege, hogy az iskolák környékén található biztonsági kamerák felvételeit vizsgálja az MI, és ha veszélyt lát, akkor azonnal értesíti a hatóságokat.
Hasonló eset történt a közelmúltban is, amikor a hatóságok nagy erőkkel vonultak ki egy helyi iskola közelében tartózkodó diákokhoz, ahol egy 16 éves fiatalt a földre tepertek és már kattant is a bilincs a kezén. Mint kiderült, az MI szoftver egy Doritos chips zacskóját hitte fegyvernek és ezért értesítette a rendőröket. Az Omnilert vállalat elismerte, hogy a szoftverjük hibásan jelezte a fenyegetést, de szerintük a rendszer pont úgy működött, ahogyan annak kell.
