The function ScanForDuplicates has been refactored and is now much more easy to use because it does much more stuff inside to have an easier api.
"RebuildDuplicatesCache" and "ScanForDuplicates" have been refactored.
The fields used in the prefilter don't have to be configured manually by the user. Instead, the fields defined by the prefilter now get added automatically to the list of fields to be used. In the case, that the field has been added via the users config anyways, it doesn't get added by code to ensure that each field is mentioned exactly once.
To reflect these changes, the javadoc including the example of ScanForDuplicates and RebuildDuplicates has been updated.
 Until it's possible to load values from a consumed entity dynamically via code, the possibility to select entity fields from consumed entities via ui has been removed. See ticket #1044577. Now only "native" fields directly from the base entity can be selected.
 Since the entity fields are now used in the configuration of the duplicate search, no db fields have to be configured any more. The field has been removed from liquibase

The Cache rebuilding has been changed. The values to check for duplicates are now loaded using the entities api instead of pure sql. If the cache for all duplicates of a scanner gets rebuilt, it's now done in blocks. This ensures that even while wokring on huge recordsets, the ressources are enough. It sure may take some time to check huge recordsets...
The flag "Use external Webservice" has been removed from the view because no native api to a duplicate scanning service exists, therefore this is unnecessary right now. The config of the resultfields has been removed aswell, if no external service is used, it's enough to work with the id which is always in the index's response.
The configuration of the indexfields has been changed, no manual connection between entity and db field is necessary because no sql is used any more. Instead, the fields can be selected via dropdown which offers the entity fields to select.
Some refactoring
Changes on the docks to reflect the changed datastructure of some arrays

The possibility to configure an external duplicate has been removed from the views because no default external service integration exists. Reactivate later maybe..

Removed unnecessary log outputs
Wrong behaviour removed. If a valid prefilter exists but the filterpatternfields contain no value, the indexsearch got triggered nonetheless. The results which have been found on the base of the prefilter had been defined as duplicates which was wrong.
Code examples have been added to the important functions like ScanForDuplicates or RebuildDuplicatesCache

Refactorings

Documentation
Example code to show the usage of the webservice callback

If there's many duplicates in one cluster, the table in the duplicates overview broke the readability of the table
It's now restricted to 4 records. If there are more a ", ..." gets added instead of the rest of the records

If a field which is configured to be used in the indexsearch contains no value, no pattern will be added @see _buildFilterPatternConfig

The flag if an external webservice should be used is now used in the code. If true, the parameterized callbackfunction gets called. See DuplicateScannerUtils._isUseExternalWebservice

The possibility to integrate a webservice call and the necessary formatting of the values has been developed. The function RebuildDuplicatesCache now awaits a function as parameter in which an external developer can implement the steps to format the values and call the desired webservice. There is no native webservice call implementation because the formfactor of the data send to a webservice is always different and how with the particular webservices has to be communicated cant be known by the standard implementation.
The customized function gets an array which holds values based on the configured resultFields. To access a value the key which is its index field ought to be used. The resultfields, which are known at this place, can be converted to their respective index field name pendants using DuplicateScannerUtils.TranslateEntityToIndexFields which returns some kind of map (access via key).

New function DuplicateScannerUtils.TranslateEntityToIndexFields

Old functions to rebuild the duplicate cache have been removed and the ones with the postfix "Index"(Which was also removed) replaced them
New function to load the DB_FIELDS from the IndexFieldConfig and concatenate them to use the resulting string as fields-to-select in a db select query

Refactoring to get a small glimpse of cleancodish structure
More checks and case handlings to increase stability

The editview has been integrated in the general duplicatescanner editview.

The Indexfieldconfig now contains the correct fields which are necessary to run the search.
The fields now can be configured via the client. Those infos are now used to dynamically load the configured fields an their values which are then internally used to run the prefilter as well as the real duplicate search.
NEXT UP => Configuring of the result fields. There's light at the end of the tunnel.

Fix in JditoFilter_lib. The function "JditoFilterUtils.getFilterFields" now correctly reads fields from a filter json
The call of the index search can now correctly use filters to make use of the real duplicate search. The dynamic reading of fields comes next

The prefilter filter Json is now correctly created and returned in case of a successful search ( Found results in threshold)

New Check for null that the parameter value is applied correctly

New Context/Entity/Views/Liquibase to configure which entity fields should be used by the index to search for duplicates
Renaming of DuplicateScanConditionConfig to have a seamless naming system
- DuplicateScanConditionConfig => DuplicateScannerPrefilterConfig
- DuplicateScannerIndexConfig

Addtitional tables have been added
It's now differentiated between the current alias and the system alias because both contain tables which have to be merged

Werden Cluster auf der Übersichtsseite ignoriert, wird nun kein Fehler mehr geworfen. Temporäre fixes, TobiF fragen

Ein erster Versuch für eine Preview wurde erstellt
Übersetzungen angelegt
Tabellen für den Merge wurden gegengeprüft und in der Lib ergänzt
Merge Funktionalität wurde für die Organisation erweitert
Merge für Person im Test, noch Fehlerhaft

Das Öffnen der Detailanzeige eines Clusters wurde nun auf eine custom Action ausgelagtert, dass die views im gleichen Context liegen können. Es ergibt Sinn hier im gleichen Entity/Context zu bleiben, denn die Datensätze sind im Grunde die gleichen, es handelt sich nur um eine gesonderte Darstellung.
Es wurden alle zugehörigen Teile entsprechend angepasst, dass die Datenweitergabe per manuellem neon.openContext funktioniert
Die ORg Detail-Tabelle unterscheidet sich noch, die korrekten Datensätze werden bereits angezeigt.

Kleines Refactoring: Es wird nun nicht mehr nach TargetEntity sondern die Strings werden je nach Ergebnis aus der Datenbank konkateniert

Es werden sowohl die Organisationscluster angezeigt als auch analog zu den Personen eine Tabelle mit ignorierten Dublettenkombinationen. Entsprechende Aktionen werden ebenso angezeigt.
DuplicatesUnrelated wurde um Logik für Organisationen erweitert
Duplicates wurde um Logik für Organisationen erweitert

RefreshUnrelatedDuplicateRelations: Diverse Fehler behoben. Die ClusterIds werden nun korrekt aktualisiert und veraltete gelöscht.
Org Dubletten werden nun in der Testaktion ermittelt

Aktionen in der Dublettenansicht einer Organisation wurden entsprechend dem Person pendant eingefügt und angepasst
Organisationsdubletten werden  nun als zusätzlicher Reiter in der Org-Mainview angezeigt
Der Organisation Recordcontainer wurde um die Duplicate-Teile erweitert
Duplicates lib Funktion refactored

Es gibt eine neue Aktion zum ignorieren eines ganzen Clusters

Der Serverprozess ist in der ersten Version für das Person_entity fertiggestellt. Es werden die UnrelatedRelations entweder mit der neuen ClusterId geupdatet, sofern die duplicateId Konstellation weiterhin besteht, ansonsten werden die Datensätze gelöscht.

Logausgaben entfernt

Erweiterung der UNRELATEDUPLICATES Tabelle. Einträge dort enhalten nun die Information, zu welchem CLuster diese gehören. Dies vereinfacht die Zuordnung unter bestimmten Anforderungen.
Liquibase wurde entsprechend angepasst.
Am Duplicates Context wurde ein weiterer View gebaut, welcher alle ignorierten Dubletten sucht, welche sich nur auf einen Cluster beziehen. Erforderlich für die Dublettenübersichts-Detail-Seite

Detailansicht zeigt nun alle Kontakte innerhalb des selektierten Clusters ausgenommen der ignorierten Dubletten in der personfilter_view.
Die ignorierten werden demnächst in einer separaten Detailansicht dargestellt

Sql Query umgebaut auf Nutzung des Sql Builders
Auf der ClusterDetailSeite wird nun die Person Filter view angezeigt

Ignorierte Dubletten Treffer werden nun in einem separaten Entity ermittelt und auf der Dublettenübersichtsseite angezeigt.

Personen Dubletten Cluster werden nun korrekt angezeigt. Dabei werden "ignorierte Datensätze" nicht in der Auflistung angezeigt. Cluster mit zwei Einträgen, wovon einer "ignoriert" wird, werden ebenso ausgeblendet.
Es wurde ein neues Entity zum Anzeigen der ignorierten Dubletten angelegt.

Erste Version der Gesamtübersicht für Personendubletten erstellt. Diese zeigt die Namen der Personen und die Anzahl der DUbletten im Cluster an.

Das neue Feld Target_Entity wurde der DuplicatesCluster Tabelle hinzugefügt. Hiermit können nun Entity spezifische Cluster gesucht und gelöscht werden.