ExecutorServiceを使用したタスクの実行順序の制御
非同期タスクをスレッドのプールに委任するプロセスがあります。特定のタスクが順番に実行されるようにする必要があります。だから例えば
タスクは順番に到着します
タスクa1、b1、c1、d1、e1、a2、a3、b2、f1
タスクは自然な依存関係がある場合を除いて任意の順序で実行できるため、a1、a2、a3は、同じスレッドに割り当てるか、前のa＃タスクが完了したことがわかるまでこれらをブロックすることにより、この順序で処理する必要があります。
現在、Java Concurrencyパッケージを使用していませんが、スレッド管理を利用するために変更することを検討しています。
誰かがこれを達成する方法の同様の解決策または提案を持っていますか
過去にこれを行ったとき、私は通常、コンポーネントによって注文が処理され、コンポーネントがcallables/runnablesをエグゼキューターに送信していました。
何かのようなもの。
- 実行するタスクのリストを取得しました。一部には依存関係があります
- エグゼキュータを作成し、ExecutorCompletionServiceでラップします
- 依存関係のないすべてのタスクを検索し、完了サービスを介してそれらをスケジュールします
- 完了サービスをポーリングする
- 各タスクが完了すると
- 「完了」リストに追加します
- 「完了リスト」で待機中のタスクを再評価して、「依存関係が完了」しているかどうかを確認します。もしそうなら、それらをスケジュールします
- すべてのタスクが送信/完了するまで、すすぎを繰り返します
完了サービスは、多数の先物をポーリングしようとするのではなく、タスクが完了したときにタスクを取得できる優れた方法です。ただし、タスクが完了サービスを介してスケジュールされたときに入力されるMap<Future, TaskIdentifier>を保持して、完了サービスが完了したFutureを提供したときに、それがどのTaskIdentifierであるかを把握できるようにすることをお勧めします。
タスクがまだ実行を待機しているが、何も実行されておらず、何もスケジュールできない状態になっている場合は、循環依存の問題があります。
同じキーを持つタスクのタスク順序を保証する独自のエグゼキュータを作成します。同じキーの注文タスクにキューのマップを使用します。キー付きタスクはそれぞれ、同じキーで次のタスクを実行します。
このソリューションは、RejectedExecutionExceptionまたは委任されたエグゼキューターからの他の例外を処理しません！したがって、委任されたエグゼキュータは「無制限」である必要があります。
import Java.util.HashMap;
import Java.util.LinkedList;
import Java.util.Map;
import Java.util.Queue;
import Java.util.concurrent.Executor;
/**
* This Executor warrants task ordering for tasks with same key (key have to implement hashCode and equal methods correctly).
*/
public class OrderingExecutor implements Executor{
private final Executor delegate;
private final Map<Object, Queue<Runnable>> keyedTasks = new HashMap<Object, Queue<Runnable>>();
public OrderingExecutor(Executor delegate){
this.delegate = delegate;
}
@Override
public void execute(Runnable task) {
// task without key can be executed immediately
delegate.execute(task);
}
public void execute(Runnable task, Object key) {
if (key == null){ // if key is null, execute without ordering
execute(task);
return;
}
boolean first;
Runnable wrappedTask;
synchronized (keyedTasks){
Queue<Runnable> dependencyQueue = keyedTasks.get(key);
first = (dependencyQueue == null);
if (dependencyQueue == null){
dependencyQueue = new LinkedList<Runnable>();
keyedTasks.put(key, dependencyQueue);
}
wrappedTask = wrap(task, dependencyQueue, key);
if (!first)
dependencyQueue.add(wrappedTask);
}
// execute method can block, call it outside synchronize block
if (first)
delegate.execute(wrappedTask);
}
private Runnable wrap(Runnable task, Queue<Runnable> dependencyQueue, Object key) {
return new OrderedTask(task, dependencyQueue, key);
}
class OrderedTask implements Runnable{
private final Queue<Runnable> dependencyQueue;
private final Runnable task;
private final Object key;
public OrderedTask(Runnable task, Queue<Runnable> dependencyQueue, Object key) {
this.task = task;
this.dependencyQueue = dependencyQueue;
this.key = key;
}
@Override
public void run() {
try{
task.run();
} finally {
Runnable nextTask = null;
synchronized (keyedTasks){
if (dependencyQueue.isEmpty()){
keyedTasks.remove(key);
}else{
nextTask = dependencyQueue.poll();
}
}
if (nextTask!=null)
delegate.execute(nextTask);
}
}
}
}
RunnableまたはCallableをExecutorServiceに送信すると、代わりにFutureを受け取ります。 a1に依存するスレッドにa1のFutureを渡して、Future.get()を呼び出します。これは、スレッドが完了するまでブロックされます。
そう：
ExecutorService exec = Executor.newFixedThreadPool(5);
Runnable a1 = ...
final Future f1 = exec.submit(a1);
Runnable a2 = new Runnable() {
@Override
public void run() {
f1.get();
... // do stuff
}
}
exec.submit(a2);
等々。
もう1つのオプションは、独自のエグゼキューターを作成し、それをOrderedExecutorと呼び、カプセル化されたThreadPoolExecutorオブジェクトの配列を作成し、内部エグゼキューターごとに1つのスレッドを作成することです。次に、内部オブジェクトの1つを選択するためのメカニズムを提供します。たとえば、クラスのユーザーが実装できるインターフェイスを提供することで、これを行うことができます。
executor = new OrderedExecutor（10/*プールサイズ* /、new OrderedExecutor.Chooser（）{
public int choice（Runnable runnable）{
MyRunnable myRunnable =（MyRunnable）runnable ;
return myRunnable.someId（）;
}）;
executor.execute（new MyRunnable（））;
OrderedExecutor.execute（）の実装は、Chooserを使用してintを取得し、これをプールサイズで変更します。これが、内部配列へのインデックスです。 「someId（）」はすべての「a」などに同じ値を返すという考え方です。
Executors.newSingleThreadExecutor（）を使用できますが、タスクの実行に使用されるスレッドは1つだけです。もう1つのオプションは、CountDownLatchを使用することです。簡単な例を次に示します。
public class Main2 {
public static void main(String[] args) throws InterruptedException {
final CountDownLatch cdl1 = new CountDownLatch(1);
final CountDownLatch cdl2 = new CountDownLatch(1);
final CountDownLatch cdl3 = new CountDownLatch(1);
List<Runnable> list = new ArrayList<Runnable>();
list.add(new Runnable() {
public void run() {
System.out.println("Task 1");
// inform that task 1 is finished
cdl1.countDown();
}
});
list.add(new Runnable() {
public void run() {
// wait until task 1 is finished
try {
cdl1.await();
} catch (InterruptedException e) {
e.printStackTrace();
}
System.out.println("Task 2");
// inform that task 2 is finished
cdl2.countDown();
}
});
list.add(new Runnable() {
public void run() {
// wait until task 2 is finished
try {
cdl2.await();
} catch (InterruptedException e) {
e.printStackTrace();
}
System.out.println("Task 3");
// inform that task 3 is finished
cdl3.countDown();
}
});
ExecutorService es = Executors.newFixedThreadPool(200);
for (int i = 0; i < 3; i++) {
es.submit(list.get(i));
}
es.shutdown();
es.awaitTermination(1, TimeUnit.MINUTES);
}
}
Habanero-Javaライブラリ には、タスク間の依存関係を表現し、スレッドブロック操作を回避するために使用できるデータ駆動型タスクの概念があります。裏でHabanero-JavaライブラリはJDKForkJoinPool（つまり、ExecutorService）を使用します。
たとえば、タスクA1、A2、A3、...のユースケースは次のように表すことができます。
HjFuture a1 = future(() -> { doA1(); return true; });
HjFuture a2 = futureAwait(a1, () -> { doA2(); return true; });
HjFuture a3 = futureAwait(a2, () -> { doA3(); return true; });
A1、a2、およびa3は、タイプHjFutureのオブジェクトへの単なる参照であり、タスクA2およびA3が実行時に開始されるときに依存関係を指定するために、カスタムデータ構造で維持できることに注意してください。
いくつかあります チュートリアルスライドが利用可能 。詳細なドキュメントは、 javadoc 、 API summary 、および primers として見つけることができます。
シーケンス対応のウォンエグゼキュータサービスを作成しました。これは、特定の関連する参照を含み、現在実行中のタスクを順番に並べます。
https://github.com/nenapu/SequenceAwareExecutorService で実装を実行できます。
この問題のためにOrderingExecutorを作成しました。同じキーを異なるランナブルを持つメソッドexecute（）に渡すと、同じキーを持つランナブルの実行は、execute（）が呼び出された順序になり、重複することはありません。
import Java.util.Arrays;
import Java.util.Collection;
import Java.util.Iterator;
import Java.util.Queue;
import Java.util.concurrent.ConcurrentHashMap;
import Java.util.concurrent.ConcurrentLinkedQueue;
import Java.util.concurrent.ConcurrentMap;
import Java.util.concurrent.Executor;
/**
* Special executor which can order the tasks if a common key is given.
* Runnables submitted with non-null key will guaranteed to run in order for the same key.
*
*/
public class OrderedExecutor {
private static final Queue<Runnable> EMPTY_QUEUE = new QueueWithHashCodeAndEquals<Runnable>(
new ConcurrentLinkedQueue<Runnable>());
private ConcurrentMap<Object, Queue<Runnable>> taskMap = new ConcurrentHashMap<Object, Queue<Runnable>>();
private Executor delegate;
private volatile boolean stopped;
public OrderedExecutor(Executor delegate) {
this.delegate = delegate;
}
public void execute(Runnable runnable, Object key) {
if (stopped) {
return;
}
if (key == null) {
delegate.execute(runnable);
return;
}
Queue<Runnable> queueForKey = taskMap.computeIfPresent(key, (k, v) -> {
v.add(runnable);
return v;
});
if (queueForKey == null) {
// There was no running task with this key
Queue<Runnable> newQ = new QueueWithHashCodeAndEquals<Runnable>(new ConcurrentLinkedQueue<Runnable>());
newQ.add(runnable);
// Use putIfAbsent because this execute() method can be called concurrently as well
queueForKey = taskMap.putIfAbsent(key, newQ);
if (queueForKey != null)
queueForKey.add(runnable);
delegate.execute(new InternalRunnable(key));
}
}
public void shutdown() {
stopped = true;
taskMap.clear();
}
/**
* Own Runnable used by OrderedExecutor.
* The runnable is associated with a specific key - the Queue<Runnable> for this
* key is polled.
* If the queue is empty, it tries to remove the queue from taskMap.
*
*/
private class InternalRunnable implements Runnable {
private Object key;
public InternalRunnable(Object key) {
this.key = key;
}
@Override
public void run() {
while (true) {
// There must be at least one task now
Runnable r = taskMap.get(key).poll();
while (r != null) {
r.run();
r = taskMap.get(key).poll();
}
// The queue emptied
// Remove from the map if and only if the queue is really empty
boolean removed = taskMap.remove(key, EMPTY_QUEUE);
if (removed) {
// The queue has been removed from the map,
// if a new task arrives with the same key, a new InternalRunnable
// will be created
break;
} // If the queue has not been removed from the map it means that someone put a task into it
// so we can safely continue the loop
}
}
}
/**
* Special Queue implementation, with equals() and hashCode() methods.
* By default, Java SE queues use identity equals() and default hashCode() methods.
* This implementation uses Arrays.equals(Queue::toArray()) and Arrays.hashCode(Queue::toArray()).
*
* @param <E> The type of elements in the queue.
*/
private static class QueueWithHashCodeAndEquals<E> implements Queue<E> {
private Queue<E> delegate;
public QueueWithHashCodeAndEquals(Queue<E> delegate) {
this.delegate = delegate;
}
public boolean add(E e) {
return delegate.add(e);
}
public boolean offer(E e) {
return delegate.offer(e);
}
public int size() {
return delegate.size();
}
public boolean isEmpty() {
return delegate.isEmpty();
}
public boolean contains(Object o) {
return delegate.contains(o);
}
public E remove() {
return delegate.remove();
}
public E poll() {
return delegate.poll();
}
public E element() {
return delegate.element();
}
public Iterator<E> iterator() {
return delegate.iterator();
}
public E peek() {
return delegate.peek();
}
public Object[] toArray() {
return delegate.toArray();
}
public <T> T[] toArray(T[] a) {
return delegate.toArray(a);
}
public boolean remove(Object o) {
return delegate.remove(o);
}
public boolean containsAll(Collection<?> c) {
return delegate.containsAll(c);
}
public boolean addAll(Collection<? extends E> c) {
return delegate.addAll(c);
}
public boolean removeAll(Collection<?> c) {
return delegate.removeAll(c);
}
public boolean retainAll(Collection<?> c) {
return delegate.retainAll(c);
}
public void clear() {
delegate.clear();
}
@Override
public boolean equals(Object obj) {
if (!(obj instanceof QueueWithHashCodeAndEquals)) {
return false;
}
QueueWithHashCodeAndEquals<?> other = (QueueWithHashCodeAndEquals<?>) obj;
return Arrays.equals(toArray(), other.toArray());
}
@Override
public int hashCode() {
return Arrays.hashCode(toArray());
}
}
}