最新記事

ネット

「ネット言論のダークサイド」を計算機で解析する ── データ分析による報道の技術とその再現性 ──

2016年5月10日（火）22時31分
大野圭一朗


著者の性別の判定

　今回、最終的に検証したい仮説が性別に基づくバイアスなので、著者の性別がわかっていないとどうにもなりません。この問題を解決するために彼らが行ったのは、ある意味とても原始的な作業でした。しかし技術的には高度でないにもかかわらず、この類の作業というのがデータ解析を行うときに最も面倒で時間のかかる作業であるケースも非常に多いです。つまり、一定のエラーを含みながらも必要な結果を得られる程度には正確な、形成されたデータを作るという作業です。

gardians09.jpg

名前から性別を判定するワークフロー （Cytoscape 3.3にて作成）


　今回の具体的な作業は上の図のようになります。まず12,000人の著者名を、無償で公開されている男女別の人名リストと比較するスクリプトを実行します。おそらくここではファーストネームの完全一致による単純な判別を行っていると思われます。これにより、11,098人分のデータが男女別に分類され、1,268人が性別不明として残りました。性別不明になる原因は色々と考えられるのですが、そもそも名前がリストにない場合はわかりませんし、名前の英語表記の揺れなども原因になります。例えば、下のスクリーンショットは今回使われた名前のリストからの抜粋ですが、日本人名の「ケンイチ」という名前は、正しく男性名に分類されていますが、表記がKEN'ICHIであるため、KENICHIという表記との単純一致だと取りこぼしてしまいます。このような名前や住所といったものの表記ゆれは厄介な問題で、バラバラにデータベース化された情報を統合する時に様々な問題を引き起こします。

gardians10.png

names.csv. KENという語で検索をかけた例

　さて、この時点で不明の1,268人分のデータの性別を判定するために、今度は以下の人名判定サービスにPerlスクリプト（この場合は、Perlというプログラミング言語で作業工程を記述した小さなプログラムのことです）で送信します:

・genderize.io: Determine the gender of a first name

　このサービスを利用した後の時点で何名ぐらいが性別不明だったかはわかりませんが、なんとか人力で判定、つまり人名辞典やネット検索で人間が一つ一つ判定するのも不可能ではない程度の量にまで不明の数が減っていたので、残りは実際にそういう作業で仕分けされています。「データサイエンス」という言葉の響きとは対極にあるような作業ですが、現実はこんなものです。

　ともあれ、この作業で一定のエラーは含まれているが、それなりに大きい数の男女別著者リストが得られたので、そのファイル(CSV)をAWSのS3というストレージサービスにアップロードしました。ここからはAWS上の計算機での作業になります。

今、あなたにオススメ
ニュース速報

ワールド

トランプ米大統領、代替関税率を10％から15％に引
2026.02.22

ワールド

中国、米国産大豆追加購入の可能性低下も　関税違憲判
2026.02.21

ビジネス

トランプ関税違憲判決、米エネ企業のコスト軽減　取引
2026.02.21

ワールド

米ＵＳＴＲ、新たな３０１条調査開始へ　主要国の大半
2026.02.21
ニュース速報一覧
今、あなたにオススメ
MAGAZINE
特集：ウクライナ戦争4年 苦境のロシア
特集：ウクライナ戦争4年 苦境のロシア
2026年2月24日号（2/17発売）

帰還兵の暴力、ドローンの攻撃、止まらないインフレ。国民は疲弊しプーチンの足元も揺らぐ

メールマガジンのご登録はこちらから。
人気ランキング
  • 1
    命は長し、働け女たち――88歳「働くばあさん」が説く高齢期の「4つの覚悟」
  • 2
    「#ジェームズ・ボンドを忘れろ」――MI6初の女性長官が掲げる「新しいスパイの戦い方」
  • 3
    「水道水」が筋トレの成果を左右する...私たちの体には濾過･吸収する力が備わっている
  • 4
    少女買春に加え、国家機密の横流しまで...アンドルー…
  • 5
    100万人が死傷、街には戦場帰りの元囚人兵...出口な…
  • 6
    カビが植物に感染するメカニズムに新発見、硬い表面…
  • 7
    ロシアに蔓延する「戦争疲れ」がプーチンの立場を揺…
  • 8
    ｢ヘル・コリア｣から日本へ7万人 ── 大企業の高給より…
  • 9
    「窓の外を見てください」パイロットも思わず呼びか…
  • 10
    揺れるシベリア...戦費の穴埋めは国民に？ ロシア中…
  • 1
    ｢ヘル・コリア｣から日本へ7万人 ── 大企業の高給より日本の｢100％就職率｣を選ぶ若者たち
  • 2
    命は長し、働け女たち――88歳「働くばあさん」が説く高齢期の「4つの覚悟」
  • 3
    なぜ「あと1レップ」が筋肉を壊すのか...「高速パワートレーニング」が失速する理由
  • 4
    【銘柄】マイクロソフトの株価が暴落...「AI懸念」で…
  • 5
    「ヒンメルならそうした」...コスプレイヤーが消火活…
  • 6
    海外（特に日本）移住したい中国人が増えている理由.…
  • 7
    「#ジェームズ・ボンドを忘れろ」――MI6初の女性長官…
  • 8
    「目のやり場に困る...」アカデミー会場を席巻したス…
  • 9
    オートミール中心の食事がメタボ解消の特効薬に
  • 10
    中国、パナマ運河の港湾喪失でパナマに報復──トラン…
  • 1
    【クイズ】致死率50～75%...インドで感染拡大「ニパウイルス」の感染源となる動物は？
  • 2
    ウクライナ戦闘機「F-16」がロシア軍「シャヘド」を空中爆破...地上から撮影の「レア映像」を公開
  • 3
    高市積極財政にアメリカが慌てる理由
  • 4
    セーターが消えた冬 ── 暖かさの主戦場が｢インナー｣…
  • 5
    台湾侵攻「失敗」の大きすぎる代償
  • 6
    「最恐」恐竜T・レックスの定説を覆す新研究が
  • 7
    イースター島の先住民から資源を略奪、島を「生きた…
  • 8
    海上自衛隊が水中無人機（UUV）を導入　中国の海軍拡…
  • 9
    中国、パナマ運河の港湾喪失でパナマに報復──トラン…
  • 10
    ｢ヘル・コリア｣から日本へ7万人 ── 大企業の高給より…
トランプ2.0記事まとめ
Real
CHALLENGING INNOVATOR
Wonderful Story
MOOK
ニューズウィーク日本版別冊
ニューズウィーク日本版別冊

好評発売中