学校越来越多地求助于支持人工智能的解决方案，以阻止学生暴力的悲剧行为，比如一年前发生在佛罗里达州帕克兰(Parkland)马乔里斯通曼道格拉斯高中(Marjory Stoneman Douglas High School)的枪击案。

Bark Technologies、Gaggle.Net和Securly Inc.是三家采用人工智能和机器学习来扫描学生电子邮件、文本、文档以及某些情况下的社交媒体活动的公司。他们寻找网络欺凌、性方面、吸毒和酗酒、抑郁症的警告信号，并给那些不仅对自己，而且对同学构成暴力威胁的学生打上标记。

如果发现潜在问题时，并且根据严重程度，学校管理人员，家长以及最极端情况下的执法官员会收到警报。

2017年秋天，Bark在25所学校进行了试点。Bark的首席官蒂塔尼亚·乔丹说:“我们发现了一些非常令人担忧的问题，包括炸弹袭击和校园枪击等威胁。”“我们不想让自己看起来像是机会主义者，也不想利用一场悲剧，”乔丹说。

这种Bark产品对美国的学校是永久免费的。该公司表示，它有能力向学校免费提供这项服务，因为它从面向家长的服务中赚到了钱。

有局限性

《今日美国》采访的公司中，没有一家声称自己有能力每次都能发现可疑行为。人工智能的定义比较宽泛，它描述的是可以展示人类行为并从人类的数据中学习的机器。有时会出现误报。

学校不能监控学生的智能手机或其他设备，除非学生使用学校提供的电子邮件或学生证注册了社交媒体或其他账户。

学生通常也比他们的父母更懂技术，并且不会告诉他们他们拥有的每个帐户。因为学生往往比他们的父母更懂科技，并不会告诉他们所有的账户。如果发现问题，Bark会向家长和学校发送短信或电子邮件提醒，并提供有关如何解决问题的建议步骤。

Bark的母公司产品售价为每个家庭每月9美元，或每年99美元，其中包括监控25个社交媒体平台，从Twitter、Instagram到Snapchat和YouTube。

目前有1100多个学区使用Bark，覆盖260万儿童。如果它发现了一些被认为是非常严重的事情，如绑架儿童或校园枪击威胁，该问题将上报给FBI。

根据乔丹的说法，Bark每天会发出3.5万到5.5万条警报。她表示，自Bark去年2月推出校园产品以来，已经有16起疑似校园枪击案被报告给FBI。

预防自杀死亡

Gaggle已经有20年的历史了，每名学生每年收费6美元。自7月1日起，该公司声称已在1400个使用其服务的学区阻止了447起自杀死亡事件，并在去年阻止了542起潜在的自杀死亡事件。

Gaggle还表示，去年阻止了240起儿童携带武器到学校伤害其他学生或意图伤害他人的事件。在这种情况下，Gaggle会立即通知学校的紧急联系人，并在必要时提醒执法部门。

该公司不仅仅依靠机器学习来做出威胁测定。如果对学校发布的电子邮件和文件进行Gaggle扫描，发现处于危机中的儿童，则由经过培训的人员安全专家对内容进行分析，他们会验证威胁是否合法，然后确定其严重程度。如果威胁被认为是轻微的，也许使用亵渎，学生可能会被直接警告。如果学生的生命被认为处于危险之中，则立即通知学校的紧急联系人。

真正的威胁还是无害的语言？

随着人工智能系统变得越来越复杂，机器能够应用上下文分析来确定是否存在真正的危险，或者是否是学龄朋友使用无害却像威胁的语言互相扯皮，也许是在开玩笑。

“我们的机器学习算法足够聪明，可以知道一个孩子发短信给另一个孩子“KMS”(意思是“自杀”)的区别。把它用作口语或者某人确实有抑郁、焦虑的倾向，或者真的表达了自杀或伤害他人的倾向。”乔丹说。

Gaggle的麦卡洛(McCullough)表示，该公司的算法在不断更新，以检测信息中绝望语气，识别符号和拼写错误，以及更好地分析语言。

麦卡洛说:“我们曾经遇到过这样的情况，一个三年级的女孩被一个要求提供裸照的外部电子邮件地址所引诱，否则她的父母就会被杀。”“她试着发送这些照片，但因为我们的服务是实时的，所以这些照片并没有泄露。”那个人也因此被逮捕。

平衡隐私

爱荷华州Sioux Central学区的技术总监Rob McCartney表示，隐私存在“微妙的平衡”。“即使我们管理和维护的学区拥有学生的电子邮件地址，学生也有权获得足够的隐私，而我们无需进入并查看并说：'哦，这是你的男朋友，或者你来了昨晚深夜回家？' 那不是我们的目的。“

Securly的首席执行官维奈•马哈迪克(Vinay Mahadik)也在隐私和安全之间把握着微妙的界定:“我们付出了很多努力，试图成为一家负责任的公司。我们服务过的家长，或者我们帮助过的学区，没有一次回来告诉我们，你们在做一件可怕的事情。

学校表示，光是挽救了一条生命又或者能够接触任何一个有问题的学生。从而阻止任意一起悲剧的发生，那么这所做的一切都是无价的，都是值得尊敬的。