最新記事

ネット

「ネット言論のダークサイド」を計算機で解析する ── データ分析による報道の技術とその再現性 ──

2016年5月10日（火）22時31分
大野圭一朗


著者の性別の判定

　今回、最終的に検証したい仮説が性別に基づくバイアスなので、著者の性別がわかっていないとどうにもなりません。この問題を解決するために彼らが行ったのは、ある意味とても原始的な作業でした。しかし技術的には高度でないにもかかわらず、この類の作業というのがデータ解析を行うときに最も面倒で時間のかかる作業であるケースも非常に多いです。つまり、一定のエラーを含みながらも必要な結果を得られる程度には正確な、形成されたデータを作るという作業です。

gardians09.jpg

名前から性別を判定するワークフロー （Cytoscape 3.3にて作成）


　今回の具体的な作業は上の図のようになります。まず12,000人の著者名を、無償で公開されている男女別の人名リストと比較するスクリプトを実行します。おそらくここではファーストネームの完全一致による単純な判別を行っていると思われます。これにより、11,098人分のデータが男女別に分類され、1,268人が性別不明として残りました。性別不明になる原因は色々と考えられるのですが、そもそも名前がリストにない場合はわかりませんし、名前の英語表記の揺れなども原因になります。例えば、下のスクリーンショットは今回使われた名前のリストからの抜粋ですが、日本人名の「ケンイチ」という名前は、正しく男性名に分類されていますが、表記がKEN'ICHIであるため、KENICHIという表記との単純一致だと取りこぼしてしまいます。このような名前や住所といったものの表記ゆれは厄介な問題で、バラバラにデータベース化された情報を統合する時に様々な問題を引き起こします。

gardians10.png

names.csv. KENという語で検索をかけた例

　さて、この時点で不明の1,268人分のデータの性別を判定するために、今度は以下の人名判定サービスにPerlスクリプト（この場合は、Perlというプログラミング言語で作業工程を記述した小さなプログラムのことです）で送信します:

・genderize.io: Determine the gender of a first name

　このサービスを利用した後の時点で何名ぐらいが性別不明だったかはわかりませんが、なんとか人力で判定、つまり人名辞典やネット検索で人間が一つ一つ判定するのも不可能ではない程度の量にまで不明の数が減っていたので、残りは実際にそういう作業で仕分けされています。「データサイエンス」という言葉の響きとは対極にあるような作業ですが、現実はこんなものです。

　ともあれ、この作業で一定のエラーは含まれているが、それなりに大きい数の男女別著者リストが得られたので、そのファイル(CSV)をAWSのS3というストレージサービスにアップロードしました。ここからはAWS上の計算機での作業になります。

今、あなたにオススメ
ニュース速報

ビジネス

最近の急速なウォン安・円安、深刻な懸念共有＝日韓対
2026.03.14

ワールド

米戦略石油備蓄の第1弾、来週末までに供給　8600
2026.03.14

ビジネス

日立とＧＥベルノバ、東南アジアで小型モジュール炉導
2026.03.14

ワールド

米商務省、ＡＩ半導体輸出の新規則案を撤回　公表から
2026.03.14
ニュース速報一覧
今、あなたにオススメ
MAGAZINE
特集：教養としてのミュージカル入門
特集：教養としてのミュージカル入門
2026年3月17日号（3/10発売）

社会と時代を鮮烈に描き出すミュージカル。意外にポリティカルなエンタメの「魔力」を学ぶ

メールマガジンのご登録はこちらから。
人気ランキング
  • 1
    米軍も防ぎきれないイランのドローン攻撃──イラン製をモデルにした米国製ドローンを投入
  • 2
    ショーン・ペンは黙らない――「ウクライナへの裏切りは常軌を逸している」その怒りの理由
  • 3
    有人機の「盾」となる使い捨て無人機...空の戦いに革命をもたらす「新世代ドローン」とは？
  • 4
    世界の視線は中東から日本へ...企業主導で築くインド…
  • 5
    職業別の収入に大変動......タクシー運転手・自動車…
  • 6
    イラン攻撃のさなか、トランプが行った「執務室の祈…
  • 7
    「映画賞の世界は、はっきり言って地獄だ」――ショー…
  • 8
    「イラン送りにすべき...」トランプ孫娘、警護隊引き…
  • 9
    『ある日、家族が死刑囚になって』を考えるヒントに…
  • 10
    ファラオが眠る王家の谷に残されていた「インド系言…
  • 1
    ロシア政府、痛恨のミス...プーチンの「健康不安説」を裏付けるような動画を公式に投稿してしまう
  • 2
    メーガン妃、娘リリベット王女との新ショット公開...撮影はパパ
  • 3
    「日本より、自分の国（フランス）を心配すれば？」と言われる外国特派員の私が思うこと
  • 4
    「このままよりはマシだ」――なぜイランで米軍の攻撃…
  • 5
    職業別の収入に大変動......タクシー運転手・自動車…
  • 6
    米軍も防ぎきれないイランのドローン攻撃──イラン製…
  • 7
    キャサリン皇太子妃、英連邦デー式典に出席...公開さ…
  • 8
    【長期戦はイラン有利】米側の体制転覆シナリオに暗…
  • 9
    ショーン・ペンは黙らない――「ウクライナへの裏切り…
  • 10
    世界の視線は中東から日本へ...企業主導で築くインド…
  • 1
    ロシア政府、痛恨のミス...プーチンの「健康不安説」を裏付けるような動画を公式に投稿してしまう
  • 2
    台湾侵攻「失敗」の大きすぎる代償
  • 3
    メーガン妃、娘リリベット王女との新ショット公開...撮影はパパ
  • 4
    見事なカンフーを見せた中国ヒト型ロボットのからく…
  • 5
    アルコールは血糖値を下げる...「脳と血管を守る」医…
  • 6
    ウクライナ戦闘機「F-16」がロシア軍「シャヘド」を…
  • 7
    ｢ヘル・コリア｣から日本へ7万人 ── 大企業の高給より…
  • 8
    「日本より、自分の国（フランス）を心配すれば？」…
  • 9
    日本の若者「韓国就職」憧れと現実のギャップ ── ビ…
  • 10
    命は長し、働け女たち――88歳「働くばあさん」が説く…
トランプ2.0記事まとめ
Real
CHALLENGING INNOVATOR
Wonderful Story
MOOK
ニューズウィーク日本版別冊
ニューズウィーク日本版別冊

好評発売中