web-dev-qa-db-ja.com

単語の文字n-gramの迅速な実装

文字バイグラムを計算するために次のコードを作成しました。出力はすぐ下にあります。私の質問は、最後の文字（つまりt）を除外した出力を取得するにはどうすればよいですか？文字のn-gramを計算するためのより迅速で効率的な方法はありますか？

b='student'
>>> y=[]
>>> for x in range(len(b)):
    n=b[x:x+2]
    y.append(n)
>>> y
['st', 'tu', 'ud', 'de', 'en', 'nt', 't']

これが私が得たい結果です：['st','tu','ud','de','nt]

よろしくお願いします。

python-2.7n-gram
20
Tiger1

バイグラムを生成するには：

In [8]: b='student'

In [9]: [b[i:i+2] for i in range(len(b)-1)]
Out[9]: ['st', 'tu', 'ud', 'de', 'en', 'nt']

別のnに一般化するには：

In [10]: n=4

In [11]: [b[i:i+n] for i in range(len(b)-n+1)]
Out[11]: ['stud', 'tude', 'uden', 'dent']
36
NPE

Zipを試してください：

>>> def Word2ngrams(text, n=3, exact=True):
...   """ Convert text into character ngrams. """
...   return ["".join(j) for j in Zip(*[text[i:] for i in range(n)])]
... 
>>> Word2ngrams('foobarbarblacksheep')
['foo', 'oob', 'oba', 'bar', 'arb', 'rba', 'bar', 'arb', 'rbl', 'bla', 'lac', 'ack', 'cks', 'ksh', 'she', 'hee', 'eep']

ただし、速度が遅いことに注意してください。

import string, random, time

def Zip_ngrams(text, n=3, exact=True):
  return ["".join(j) for j in Zip(*[text[i:] for i in range(n)])]

def nozip_ngrams(text, n=3):
    return [text[i:i+n] for i in range(len(text)-n+1)]

# Generate 10000 random strings of length 100.
words = [''.join(random.choice(string.ascii_uppercase) for j in range(100)) for i in range(10000)]

start = time.time()
x = [Zip_ngrams(w) for w in words]
print time.time() - start

start = time.time()
y = [nozip_ngrams(w) for w in words]
print time.time() - start        

print x==y

[でる]：

0.314492940903
0.197558879852
True
7
alvas

この関数は、n = 1からnに対してnグラムを与えます。

def getNgrams(sentences, n):
    ngrams = []
    for sentence in sentences:
        _ngrams = []
        for _n in range(1,n+1):
            for pos in range(1,len(sentence)-_n):
                _ngrams.append([sentence[pos:pos+_n]])
        ngrams.append(_ngrams)
    return ngrams
0
Mannu