最新記事

ネット

「ネット言論のダークサイド」を計算機で解析する ── データ分析による報道の技術とその再現性 ──

2016年5月10日（火）22時31分
大野圭一朗


著者の性別の判定

　今回、最終的に検証したい仮説が性別に基づくバイアスなので、著者の性別がわかっていないとどうにもなりません。この問題を解決するために彼らが行ったのは、ある意味とても原始的な作業でした。しかし技術的には高度でないにもかかわらず、この類の作業というのがデータ解析を行うときに最も面倒で時間のかかる作業であるケースも非常に多いです。つまり、一定のエラーを含みながらも必要な結果を得られる程度には正確な、形成されたデータを作るという作業です。

gardians09.jpg

名前から性別を判定するワークフロー （Cytoscape 3.3にて作成）


　今回の具体的な作業は上の図のようになります。まず12,000人の著者名を、無償で公開されている男女別の人名リストと比較するスクリプトを実行します。おそらくここではファーストネームの完全一致による単純な判別を行っていると思われます。これにより、11,098人分のデータが男女別に分類され、1,268人が性別不明として残りました。性別不明になる原因は色々と考えられるのですが、そもそも名前がリストにない場合はわかりませんし、名前の英語表記の揺れなども原因になります。例えば、下のスクリーンショットは今回使われた名前のリストからの抜粋ですが、日本人名の「ケンイチ」という名前は、正しく男性名に分類されていますが、表記がKEN'ICHIであるため、KENICHIという表記との単純一致だと取りこぼしてしまいます。このような名前や住所といったものの表記ゆれは厄介な問題で、バラバラにデータベース化された情報を統合する時に様々な問題を引き起こします。

gardians10.png

names.csv. KENという語で検索をかけた例

　さて、この時点で不明の1,268人分のデータの性別を判定するために、今度は以下の人名判定サービスにPerlスクリプト（この場合は、Perlというプログラミング言語で作業工程を記述した小さなプログラムのことです）で送信します:

・genderize.io: Determine the gender of a first name

　このサービスを利用した後の時点で何名ぐらいが性別不明だったかはわかりませんが、なんとか人力で判定、つまり人名辞典やネット検索で人間が一つ一つ判定するのも不可能ではない程度の量にまで不明の数が減っていたので、残りは実際にそういう作業で仕分けされています。「データサイエンス」という言葉の響きとは対極にあるような作業ですが、現実はこんなものです。

　ともあれ、この作業で一定のエラーは含まれているが、それなりに大きい数の男女別著者リストが得られたので、そのファイル(CSV)をAWSのS3というストレージサービスにアップロードしました。ここからはAWS上の計算機での作業になります。

今、あなたにオススメ
ニュース速報

ワールド

英政府、中国の大使館移設計画を承認　首相の訪中控え
2026.01.20

ビジネス

トランプ大統領、来週にも次期ＦＲＢ議長指名決定とベ
2026.01.20

ワールド

タイ中銀、外貨収入の本国送金規制を緩和　バーツ高対
2026.01.20

ワールド

国連人権理事会、イラン情勢で23日緊急会合　「憂慮
2026.01.20
ニュース速報一覧
今、あなたにオススメ
MAGAZINE
特集：「外国人問題」徹底研究
特集：「外国人問題」徹底研究
2026年1月27日号（1/20発売）

日本の「外国人問題」は事実か錯誤か？　7つの争点を国際比較で大激論

メールマガジンのご登録はこちらから。
人気ランキング
  • 1
    中国のインフラ建設にインドが反発、ヒマラヤ奥地で国境問題が再燃
  • 2
    ピラミッドよりも昔なのに...湖底で見つかった古代の船が明かす、古代の人々の「超技術」
  • 3
    「耳の中に何かいる...」海で男性の耳に「まさかの生物」が侵入、恐怖映像と「意外な対処法」がSNSで話題に
  • 4
    「死ぬところだった...」旅行先で現地の子供に「超危…
  • 5
    韓国『日本人無料』の光と影 ── 日韓首脳が｢未来志向…
  • 6
    中国、欧米の一流メディアになりすまして大規模な影…
  • 7
    【総選挙予測：自民は圧勝せず】立憲・公明連合は投…
  • 8
    上野公園「トイレ騒動」に見る、日本のトイレが「世…
  • 9
    AIがついに人類に「牙をむいた」...中国系組織の「サ…
  • 10
    トランプが「NATOのアメリカ離れ」を加速させている…
  • 1
    【クイズ】韓国を抜いて1位に...世界で最も「出生率が低い」のはどこ？
  • 2
    上野公園「トイレ騒動」に見る、日本のトイレが「世界一危険」な理由
  • 3
    世界初で日本独自、南鳥島沖で始まるレアアース泥試掘の重要性　日本発の希少資源採取技術は他にも
  • 4
    韓国『日本人無料』の光と影 ── 日韓首脳が｢未来志向…
  • 5
    正気を失った？──トランプ、エプスタイン疑惑につい…
  • 6
    ピラミッドよりも昔なのに...湖底で見つかった古代の…
  • 7
    「高額すぎる...」ポケモンとレゴのコラボ商品に広が…
  • 8
    【クイズ】世界で最も「レアアースの埋蔵量」が多い…
  • 9
    世界最大の埋蔵量でも「儲からない」？ 米石油大手が…
  • 10
    中国のインフラ建設にインドが反発、ヒマラヤ奥地で…
  • 1
    【クイズ】世界で最も「レアアースの埋蔵量」が多い国はどこ？【2025年の話題クイズ5選】
  • 2
    90代でも元気な人が「必ず動かしている体の部位」とは何か...血管の名医がたどり着いた長生きの共通点
  • 3
    ウクライナ水中ドローンが、ロシア潜水艦を爆破...「史上初の攻撃成功」の裏に、戦略的な「事前攻撃」
  • 4
    アジアの豊かな国ランキング、日本は6位──IMF予測
  • 5
    中国製防空レーダーは米軍のベネズエラ攻撃に屈した─…
  • 6
    【クイズ】世界で唯一「蚊のいない国」はどこ？【202…
  • 7
    「腸が弱ると全身が乱れる」...消化器専門医がすすめ…
  • 8
    『SHOGUN 将軍』の成功は嬉しいが...岡田准一が目指…
  • 9
    【クイズ】本州で唯一「クマが生息していない県」は…
  • 10
    前進するロシア、忍び寄る限界...勝者に見えるプーチ…
トランプ2.0記事まとめ
Real
CHALLENGING INNOVATOR
Wonderful Story
MOOK
ニューズウィーク日本版別冊
ニューズウィーク日本版別冊

好評発売中