web-dev-qa-db-ja.com

エンティティフレームワーク、コードファーストおよびフルテキスト検索

全文検索とEntity Frameworkに関して多くの質問が寄せられていることを認識していますが、この質問が少し異なることを願っています。

Entity Framework、Code Firstを使用していますが、全文検索を行う必要があります。全文検索を実行する必要がある場合、通常、最初の500行をスキップしたり、別の列でフィルターを掛けたりするなど、他の基準/制限もあります。

これはテーブル値関数を使用して処理されていることがわかります- http://sqlblogcasts.com/blogs/simons/archive/2008/12/18/LINQ-to-SQL---Enabling-Fulltext-searchingを参照してください.aspx 。そして、これは正しい考えのようです。

残念ながら、テーブル値関数はEntity Framework 5.0までサポートされていません（それでも、Code Firstではサポートされていないと思います）。

私の本当の質問は、Entity Framework 4.3とEntity Framework 5.0の両方で、これを処理する最良の方法の提案は何かということです。しかし、具体的には：

  1. 動的SQL（たとえば、System.Data.Entity.DbSet.SqlQuery経由）以外に、Entity Framework 4.3で利用可能なオプションはありますか？

  2. Entity Framework 5.0にアップグレードする場合、最初にコードでテーブル値関数を使用する方法はありますか？

ありがとう、エリック

linqentity-frameworkfull-text-searchef-code-first
52
Eric

EF6で導入されたインターセプターを使用して、linqで全文検索をマークし、次に http://www.entityframework.info/Home/FullTextSearch で説明されているようにdbcommandでそれを置き換えることができます。

public class FtsInterceptor : IDbCommandInterceptor
{
    private const string FullTextPrefix = "-FTSPREFIX-";

    public static string Fts(string search)
    {
        return string.Format("({0}{1})", FullTextPrefix, search);
    }

    public void NonQueryExecuting(DbCommand command, DbCommandInterceptionContext<int> interceptionContext)
    {
    }

    public void NonQueryExecuted(DbCommand command, DbCommandInterceptionContext<int> interceptionContext)
    {
    }

    public void ReaderExecuting(DbCommand command, DbCommandInterceptionContext<DbDataReader> interceptionContext)
    {
        RewriteFullTextQuery(command);
    }

    public void ReaderExecuted(DbCommand command, DbCommandInterceptionContext<DbDataReader> interceptionContext)
    {
    }

    public void ScalarExecuting(DbCommand command, DbCommandInterceptionContext<object> interceptionContext)
    {
        RewriteFullTextQuery(command);
    }

    public void ScalarExecuted(DbCommand command, DbCommandInterceptionContext<object> interceptionContext)
    {
    }

    public static void RewriteFullTextQuery(DbCommand cmd)
    {
        string text = cmd.CommandText;
        for (int i = 0; i < cmd.Parameters.Count; i++)
        {
            DbParameter parameter = cmd.Parameters[i];
            if (parameter.DbType.In(DbType.String, DbType.AnsiString, DbType.StringFixedLength, DbType.AnsiStringFixedLength))
            {
                if (parameter.Value == DBNull.Value)
                    continue;
                var value = (string)parameter.Value;
                if (value.IndexOf(FullTextPrefix) >= 0)
                {
                    parameter.Size = 4096;
                    parameter.DbType = DbType.AnsiStringFixedLength;
                    value = value.Replace(FullTextPrefix, ""); // remove prefix we added n linq query
                    value = value.Substring(1, value.Length - 2);
                    // remove %% escaping by linq translator from string.Contains to sql LIKE
                    parameter.Value = value;
                    cmd.CommandText = Regex.Replace(text,
                        string.Format(
                            @"\[(\w*)\].\[(\w*)\]\s*LIKE\s*@{0}\s?(?:ESCAPE N?'~')",
                            parameter.ParameterName),
                        string.Format(@"contains([$1].[$2], @{0})",
                                    parameter.ParameterName));
                    if (text == cmd.CommandText)
                        throw new Exception("FTS was not replaced on: " + text);
                    text = cmd.CommandText;
                }
            }
        }
    }

}
static class LanguageExtensions
{
    public static bool In<T>(this T source, params T[] list)
    {
        return (list as IList<T>).Contains(source);
    }
}

たとえば、FTSインデックスフィールドNoteTextを持つクラスNoteがある場合：

public class Note
{
    public int NoteId { get; set; }
    public string NoteText { get; set; }
}

eFマップ

public class NoteMap : EntityTypeConfiguration<Note>
{
    public NoteMap()
    {
        // Primary Key
        HasKey(t => t.NoteId);
    }
}

およびそのコンテキスト：

public class MyContext : DbContext
{
    static MyContext()
    {
        DbInterception.Add(new FtsInterceptor());
    }

    public MyContext(string nameOrConnectionString) : base(nameOrConnectionString)
    {
    }

    public DbSet<Note> Notes { get; set; }

    protected override void OnModelCreating(DbModelBuilder modelBuilder)
    {
        modelBuilder.Configurations.Add(new NoteMap());
    }
}

fTSクエリに対して非常に単純な構文を使用できます。

class Program
{
    static void Main(string[] args)
    {
        var s = FtsInterceptor.Fts("john");

        using (var db = new MyContext("CONNSTRING"))
        {
            var q = db.Notes.Where(n => n.NoteText.Contains(s));
            var result = q.Take(10).ToList();
        }
    }
}

それは次のようなSQLを生成します

exec sp_executesql N'SELECT TOP (10) 
[Extent1].[NoteId] AS [NoteId], 
[Extent1].[NoteText] AS [NoteText]
FROM [NS].[NOTES] AS [Extent1]
WHERE contains([Extent1].[NoteText], @p__linq__0)',N'@p__linq__0 char(4096)',@p__linq__0='(john)

ローカル変数を使用する必要があり、FTSラッパーを式内で移動できないことに注意してください

var q = db.Notes.Where(n => n.NoteText.Contains(FtsInterceptor.Fts("john")));
51
Ben

これを実装する最も簡単な方法は、SQL Serverで全文検索をセットアップして構成し、ストアドプロシージャを使用することであることがわかりました。引数をSQLに渡し、DBがジョブを実行し、複雑なオブジェクトを返すか、結果をエンティティにマップできるようにします。必ずしも動的SQLを使用する必要はありませんが、最適な場合があります。たとえば、ページングが必要な場合、動的SQLを必要とせずに、すべてのリクエストでPageNumberおよびPageSizeを渡すことができます。ただし、クエリごとに引数の数が変動する場合は、最適なソリューションになります。

17
Matt

他の人が言及したように、私はLucene.NETの使用を開始すると言います

Luceneにはかなり高い学習曲線がありますが、「 SimpleLucene 」というラッパーが見つかりました。これは CodePlex にあります

ブログからいくつかのコードブロックを引用して、その使いやすさをお見せしましょう。使い始めたばかりですが、すぐに使いこなせます。

まず、リポジトリからいくつかのエンティティを取得するか、場合によってはEntity Frameworkを使用します

public class Repository
{
    public IList<Product> Products {
        get {
            return new List<Product> {
                new Product { Id = 1, Name = "Football" },
                new Product { Id = 2, Name = "Coffee Cup"},
                new Product { Id = 3, Name = "Nike Trainers"},
                new Product { Id = 4, Name = "Apple iPod Nano"},
                new Product { Id = 5, Name = "Asus eeePC"},
            };
        }
    }
}

次に行うことは、インデックス定義を作成することです

public class ProductIndexDefinition : IIndexDefinition<Product> {
    public Document Convert(Product p) {
        var document = new Document();
        document.Add(new Field("id", p.Id.ToString(), Field.Store.YES, Field.Index.NOT_ANALYZED));
        document.Add(new Field("name", p.Name, Field.Store.YES, Field.Index.ANALYZED));
        return document;
    }

    public Term GetIndex(Product p) {
        return new Term("id", p.Id.ToString());
    }
}

検索インデックスを作成します。

var writer = new DirectoryIndexWriter(
    new DirectoryInfo(@"c:\index"), true);

var service = new IndexService();
service.IndexEntities(writer, Repository().Products, ProductIndexDefinition());

これで、検索可能なインデックスが作成されました。あとは、検索するだけです。あなたはかなり驚くべきことをすることができますが、それはこれと同じくらい簡単です：（より大きな例については、ブログまたはコードプレックスのドキュメントを参照してください）

var searcher = new DirectoryIndexSearcher(
                new DirectoryInfo(@"c:\index"), true);

var query = new TermQuery(new Term("name", "Football"));

var searchService = new SearchService();

Func<Document, ProductSearchResult> converter = (doc) => {
    return new ProductSearchResult {
        Id = int.Parse(doc.GetValues("id")[0]),
        Name = doc.GetValues("name")[0]
    };
};

IList<Product> results = searchService.SearchIndex(searcher, query, converter);
3
s.meijer

ここの例 http://www.entityframework.info/Home/FullTextSearch は完全な解決策ではありません。全文検索の仕組みを理解する必要があります。検索フィールドがあり、ユーザーが検索にヒットするために2つの単語を入力するとします。上記のコードは例外をスローします。論理ANDまたはORを使用して、最初に検索フレーズを前処理してクエリに渡す必要があります。

たとえば、検索フレーズが「blah blah2」の場合、これを次のように変換する必要があります。

var searchTerm = @"\"blah\" AND/OR \"blah2\" ";

完全なソリューションは次のとおりです。

 value = Regex.Replace(value, @"\s+", " "); //replace multiplespaces
                    value = Regex.Replace(value, @"[^a-zA-Z0-9 -]", "").Trim();//remove non-alphanumeric characters and trim spaces

                    if (value.Any(Char.IsWhiteSpace))
                    {
                        value = PreProcessSearchKey(value);
                    }


 public static string PreProcessSearchKey(string searchKey)
    {
        var splitedKeyWords = searchKey.Split(null); //split from whitespaces

        // string[] addDoubleQuotes = new string[splitedKeyWords.Length];

        for (int j = 0; j < splitedKeyWords.Length; j++)
        {
            splitedKeyWords[j] = $"\"{splitedKeyWords[j]}\"";
        }

        return string.Join(" AND ", splitedKeyWords);
    }

このメソッドはAND論理演算子を使用します。それを引数として渡し、ANDまたはOR演算子の両方にメソッドを使用できます。

英数字以外の文字をエスケープする必要があります。エスケープしないと、ユーザーが英数字を入力したときに例外がスローされ、サーバーサイトモデルレベルの検証が行われません。

2
akd

最近、同様の要件があり、最終的にMicrosoftフルテキストインデックスアクセス専用のIQueryable拡張機能を作成することになりました。ここで利用できます IQueryableFreeTextExtensions

1
Robert Ginsburg