ホーム  >   ブログ  >   ローカルのRedis上でWikipediaカテゴリをシュッとdigる

2017-08-06

ローカルのRedis上でWikipediaカテゴリをシュッとdigる

  寄付で活動を支援する   一杯のコーヒーを贈る

WikipediaはAPIがあったりデータのMySQLダンプを惜しみなく公開していたりする。便利。しかし、いかんせん規模が大きいので、APIアクセスやRDBへの問い合わせに依存したデータ収集は辛いものがある。

今回はWikipediaデータの中でも、特に『カテゴリ』を効率的にdigる方法を fastcat というPythonコードから学ぶ。

ゴール

Wikipedia上の、あるカテゴリに対する上位・下位カテゴリの一覧を得る。

たとえば、英語版Wikipediaの Computers というカテゴリには、

  • 上位カテゴリ
    • Office equipment
    • Computing
  • 下位カテゴリ
    • Computer hardware companies
    • Computer architecture
    • Classes of computers
    • Information appliances
    • Computing by computer model
    • Computer hardware
    • Computer systems
    • NASA computers
    • Data centers
    • Computers and the environment

がある。

これが得られると何が嬉しいかというと、たとえばカテゴリをある種の“概念”とみなせば、上位・下位概念の獲得、概念辞書の構築に使える。また、『各カテゴリに属する記事』がダンプ enwiki-latest-categorylinks.sql.gz から得られるので、これと組み合わせると、クラスタリングの教師データとしても使えるかもしれない。

データ

さて、まずはこのカテゴリデータをゲットしよう。

先述の通り、カテゴリに関するMySQLダンプが公式から提供されているので、これを使えばよさそう。しかし、これはこれで相当骨の折れる仕事になりそうだ。

そこで、MySQLダンプを元にDBpediaが独自に作成・公開しているSKOS categories データセット(※ファイル直リンク)を利用する。DBpediaはWikipediaの情報を構造的にアーカイブすることを目的としたプロジェクトで、様々なデータをRDFトリプル <主語, 述語, 目的語> の形で表現している。

SKOSカテゴリデータのRDFトリプルは <カテゴリ, 関係, カテゴリ> を表現している:

<http://dbpedia.org/resource/Category:Futurama> <http://www.w3.org/1999/02/22-rdf-syntax-ns#type> <http://www.w3.org/2004/02/skos/core#Concept> .
<http://dbpedia.org/resource/Category:Futurama> <http://www.w3.org/2004/02/skos/core#prefLabel> "Futurama"@en .
<http://dbpedia.org/resource/Category:Futurama> <http://www.w3.org/2004/02/skos/core#broader> <http://dbpedia.org/resource/Category:Television_series_created_by_Matt_Groening> .
<http://dbpedia.org/resource/Category:Futurama> <http://www.w3.org/2004/02/skos/core#broader> <http://dbpedia.org/resource/Category:Comic_science_fiction> .
<http://dbpedia.org/resource/Category:Futurama> <http://www.w3.org/2004/02/skos/core#broader> <http://dbpedia.org/resource/Category:Wikipedia_categories_named_after_American_animated_television_series> .
<http://dbpedia.org/resource/Category:World_War_II> <http://www.w3.org/1999/02/22-rdf-syntax-ns#type> <http://www.w3.org/2004/02/skos/core#Concept> .
<http://dbpedia.org/resource/Category:World_War_II> <http://www.w3.org/2004/02/skos/core#prefLabel> "World War II"@en .
<http://dbpedia.org/resource/Category:World_War_II> <http://www.w3.org/2004/02/skos/core#broader> <http://dbpedia.org/resource/Category:Wikipedia_categories_named_after_wars> .
<http://dbpedia.org/resource/Category:World_War_II> <http://www.w3.org/2004/02/skos/core#broader> <http://dbpedia.org/resource/Category:20th-century_conflicts> .
...

たとえば、次のトリプルは World_War_II の上位カテゴリ (broader) として 20th-century_conflicts があることを意味する:

<http://dbpedia.org/resource/Category:World_War_II> <http://www.w3.org/2004/02/skos/core#broader> <http://dbpedia.org/resource/Category:20th-century_conflicts> .

パース

というわけで、DBpediaが提供しているカテゴリの上下関係に関するトリプルをいい感じにパースしてあげればカテゴリの上下関係が得られる:

import re
import bz2

ntriple_pattern = re.compile('^<(.+)> <(.+)> <(.+)> \.\n$')
category_pattern = re.compile('^http://dbpedia.org/resource/Category:(.+)$')

def get_name(url):
    m = category_pattern.search(url)
    return unquote(m.group(1).replace('_', ' '))

for line in bz2.BZ2File('skos_categories_en.nt.bz2'):
    # トリプルをパース
    m = ntriple_pattern.match(line.decode('utf-8'))

    if not m:
        continue

    # 主語、述語、目的語
    s, p, o = m.groups()

    # 『カテゴリの上下関係』を表していないトリプルはスキップ
    if p != 'http://www.w3.org/2004/02/skos/core#broader':
        continue

    # 主語が下位カテゴリ (narrower)、目的語が上位カテゴリ (broader) に相当
    narrower = get_name(s)
    broader = get_name(o)

ローカルのRedisに保存

fastcat のアイディアは、上位・下位カテゴリのlook upを効率的に行うために、パースした結果をローカルのRedisに保存しましょう、というもの。

Redisサーバを起動して、

$ redis-server /usr/local/etc/redis.conf

Python経由でRedisへ保存する。上位カテゴリなら b:、下位カテゴリなら n: というインデックスをつけておく:

import redis

db = redis.Redis()

...

for line in bz2.BZ2File('skos_categories_en.nt.bz2'):
    ...

    narrower = get_name(s)
    broader = get_name(o)

    db.sadd('b:%s' % narrower, broader)
    db.sadd('n:%s' % broader, narrower)

(ローカルへのRedisのインストールはMacなら $ brew install redis です)

ちゃんと登録されているか見てみる:

$ redis-cli
127.0.0.1:6379> smembers 'n:World War II'
 1) "World War II sites"
 2) "People of World War II"
 3) "Military equipment of World War II"
 4) "Military units and formations of World War II"
 5) "Military logistics of World War II"
 ...
127.0.0.1:6379> smembers 'b:World War II'
 1) "Wars involving Ecuador"
 2) "Conflicts in 1943"
 3) "Wars involving Nepal"
 4) "Wars involving the Dominican Republic"
 5) "Wars involving Denmark"
 6) "Wars involving Canada"
 ...

一瞬でズラッとでてくる。よさそう。

Pythonからdigる

こんな関数を作ってあげれば、コネクション db = redis.Redis() 経由で簡単に上位・下位カテゴリの一覧が得られる:

def broader(db, cat):
    return list(map(lambda res: res.decode('utf-8'), db.smembers('b:%s' % cat)))

def narrower(db, cat):
    return list(map(lambda res: res.decode('utf-8'), db.smembers('n:%s' % cat)))
>>> db = redis.Redis()
>>> broader(db, 'Functional programming')
['Declarative programming']
>>> narrower(db, 'Functional programming')
['Lambda calculus', 'Combinatory logic', 'Recursion schemes', 'Functional data structures', 'Functional languages', 'Implementation of functional programming languages', 'Higher-order functions', 'Dependently typed programming']

日本語版

以上がオリジナルの fastcat がやっていたこと。DBpediaデータとRedisを組み合わせた、よいソリューションだと思う。研究の現場ならPDCAを加速させてくれる。やったね。

せっかくなので、これを日本語にも対応させて、パッケージ化してる: takuti/fastcat

とはいえ、基本的にはデータの取得元が日本語版SKOSカテゴリデータ(※ファイル直リンク)に変わるだけである。日本語版DBpediaのコミュニティに感謝感謝。

幅優先でdigれば網羅的に子カテゴリを得ることができたりして便利:

from queue import Queue

from fastcat import FastCat


def get_child_categories(category, max_depth=1):
    f = FastCat()

    q = Queue()
    q.put((category, 0))

    res = list()

    while not q.empty():
        cat, depth = q.get()
        if depth == max_depth:
            break

        child_categories = f.narrower(cat)
        for c in child_categories:
            q.put((c, depth + 1))

        res += child_categories

    return res
>>> get_child_categories('関数型プログラミング', max_depth=2)
['関数型言語', '高階関数', 'ラムダ計算']

異常なクロールをしないことは現代人のマナーである一方、公式が提供する生データだけを馬鹿正直に使って非生産的な時間を過ごす必要もない。いい話。卒論時代の自分に教えてあげたい。

  シェアする

このエントリーをはてなブックマークに追加

  カテゴリ

プログラミング

  あわせて読みたい

2021-11-17
もしも推薦システムの精度と多様性が単一の指標で測れたら
2017-07-22
gensimでWikipedia日本語版からコーパスを作ってトピックモデリング
2017-07-09
Job Titleの前処理&クラスタリングをどうやって実現するか問題

  もっと見る

最終更新日: 2022-01-18

  書いた人: たくち

たくちです。長野県出身、カナダ・バンクーバー在住のソフトウェアエンジニア。これまでB2B/B2Cの各領域で、Web技術・データサイエンス・機械学習のプロダクト化および顧客への導入支援・コンサルティング、そして関連分野のエバンジェリズムに携わってきました。現在はフリーランスとして活動を続けつつ、アフリカ・マラウイにて1年間の国際ボランティアに従事中。詳しい経歴はレジュメ を参照ください。いろいろなまちを走って、時に自然と戯れながら、その時間その場所の「日常」を生きています。ご意見・ご感想およびお仕事のご相談は [email protected] まで。

  寄付で活動を支援する   一杯のコーヒーを贈る

  免責事項

  • Amazonのアソシエイトとして、当サイトは amazon.co.jp 上の適格販売により収入を得ています。
  • 当サイトおよび関連するメディア上での発言はすべて私個人の見解であり、所属する(あるいは過去に所属した)組織のいかなる見解を代表するものでもありません。
  • 当サイトのコンテンツ・情報につきまして、可能な限り正確な情報を掲載するよう努めておりますが、個人ブログという性質上、誤情報や客観性を欠いた意見が入り込んでいることもございます。いかなる場合でも、当サイトおよびリンク先に掲載された内容によって生じた損害等の一切の責任を負いかねますのでご了承ください。
  • その他、記事の内容や掲載画像などに問題がございましたら、直接メールでご連絡ください。確認の後、対応させていただきます。