The Markup での AI 検出器のバイアスと高等教育のカバレッジ

こんにちは世界

私たちの最新記者の一人が、高等教育におけるテクノロジーを調査する計画を共有している文：タラ・ガルシア・マシューソン

Hello World は、毎週土曜日の朝に配信される週刊ニュースレターで、当社の独自のレポートと、この分野の著名な思想家に寄せた質問について深く掘り下げています。ここでアーカイブを参照してください。

読者の皆さん、こんにちは。皆さんに自己紹介できるのが楽しみです！私はマークアップの新人記者の一人、タラ・ガルシア・マシューソンです。ここで高等教育を担当します。私の最初のストーリーは先週掲載されました。その内容と、このビートで取り上げる予定の内容について詳しくお話したいと思います。

機械学習

スタンフォードの研究で、AI 検出器は英語を母国語としない人に対して偏っていることが判明

まず、見逃した方のために言っておきますが、私の話は、ChatGPT が不正行為に関する新たなパニックを引き起こした後、大学キャンパスで普及した AI 検出器に埋め込まれたバイアスに関するものです。検出器は、AI によって生成された書き込みを識別することを目的としています。これは賞賛に値する目標だと思われるかもしれませんが、AI 検出器は、予測可能な語句、単純な語彙、およびそれほど複雑ではない文法を検索することによって機能します。これらは、英語を母国語としない多くの人の文体と偶然にも一致する、AI によって生成された文章の特徴です。

私の記事では、探知機のせいで多くの留学生が不正行為の濡れ衣を着せられやすくなっていると説明している。私は、教授との気まずい会話や傷ついた感情から、長期にわたる風評被害や国外退去の可能性まで、起こり得る影響を心配する数人の学生と話をしました。また、検出器の精度の問題や、大学キャンパスでの ChatGPT の使用に関するパニックに不満を抱いている教育者とも話をしました。

内訳機械学習

親と教育者が尋ねるべき 4 つの重要な質問

先週の話を見逃した方は、ぜひチェックして、周りの大学生や教員にシェアしてください。 AI 検出器の間違いの傾向に気づいている講師や、欠陥のあるツールのせいでカンニングの濡れ衣を着せられた学生からの意見をぜひ聞きたいと思っています。キャンパスには留学生のほかに、英語を母語としない最近の移民が数多く住んでおり、彼らもまた AI 検出器のバイアスに対して特に脆弱なままです。あなたの経験を共有したい場合、または私のメールを知り合いに伝えたい場合は、[email protected] までご連絡ください。

それまでの間、私がこのビートについてどのように考えているかをお話しさせてください。私は高等教育におけるテクノロジーの使用と悪用に焦点を当てるつもりです。私は、エドテクノロジーの使用とオンライン学習の普及に起因すると考えられる害悪を明らかにしたいと考えています。私が特に興味を持っているのは、障害のある学生、低収入の学生、地方に住む学生、移民、第一世代の大学生、帰国生、介護者、またはこれらの組み合わせである学生に対する被害を記録することです。。

私の話にはエリート教育機関も登場しますが、私は米国の高等教育の学生の大多数が入学する教育機関、つまりコミュニティーカレッジや公立の4年制教育機関のような選抜性の低い教育機関で何が起こっているのかを最も詳しく見ていきたいと思います。

また、営利教育や数十億ドル規模の教育技術市場で利益を得ている企業についても調査したいと考えています。学生を犠牲にして彼らの利益がもたらされている例を見つけたら、またメールボックスに連絡します。

レベルアップ

これらのツールとテクニックを使用して、ほとんどコードを書かずに「街頭からの領収書」を受け取ります。

私はここ数週間、研究者、擁護者、IT 専門家、教授、学生と何度も話し合い、高等教育の世界の実情を把握してきました。私は The Markup に来て、10 年以上の教育レポートの経験を持っていますが、そのほとんどは幼稚園から高校までの学校です。私は、大学がどのように機能するのか、あるいは機能しないのかをより深く理解し、マークアップの高等教育の範囲を拡大することを楽しみにしています。実際、見逃した場合に備えて、もう 1 つの叫び声をあげておきます。大学が学生の成功のリスク要因として人種をどのように利用しているかについてのトッドフェザーズの 2021 年の記事をご覧になりましたか? トッド氏が紹介したソフトウェア、EAB の Navigate は、現在でも 850 以上の大学で 1,000 万人以上の学生にアドバイスするために使用されているようです。この物語はアーカイブにアクセスして読む価値があります。