AI-gegenereerde nanomateriale beelden houden voor gekke experts, studie toont aan

Zwart-wit afbeeldingen van pom-pom-achtige clusters, semi-translucoele velden van kleine donkergrijze sterren op een bleke achtergrond, en talloze andere abstracte patronen zijn een bekend gezicht in wetenschappelijke artikelen die de vormen en eigenschappen van nieuw ontworpen materialen beschrijven.

Dus wanneer onderzoeksbeelden deeltjes tonen die lijken op gepofte popcorn of perfect gladde “tic tacs”, kan het onze AI -vermoeden misschien niet activeren, maar onderzoekers in Een recente studie voorzichtig anders.

Microscopiebeelden zijn onmisbaar in de wetenschap van de nanomaterialen, omdat ze de verborgen fijne kneepjes en fascinerende vormen onthullen die kleine deeltjes aannemen, die een stapel stof voor het blote oog lijken te zijn.

Wetenschappers vrezen dat generatieve AI de betekenis van deze beelden verdunt door het zwembad te vervuilen met nep, door AI gegenereerde foto’s die niet te onderscheiden zijn van de echte. Zelfs doorgewinterde onderzoekers vinden het steeds moeilijker om onderscheid te maken tussen echte microscopiebeelden van nanomaterialen en die gecreëerd door AI.

In de studie, gepubliceerd in Natuurnanotechnologieexperts waren in staat om echte versus nepbeelden correct te identificeren, slechts 40-51% van de tijd over vier van de zes beeldparen, wat geen significant verschil vertoonde in hun vermogen om ze te detecteren.

Onderzoekers van vijf verschillende landen bundelden hun krachten om een ​​onderzoek te ontwerpen dat de dreiging van door AI gegenereerde nepmicroscopiebeelden in nanomaterialenwetenschap onderzocht, wat aantoont hoe het vervagen van wat echt is en wat is vervaardigd de basis van wetenschappelijke integriteit bedreigt.

Met behulp van authentieke microscopiegegevens hebben ze minder dan een uur getraind het beeldgeneratieplatform Getimg.AI en produceerden ze nepbeelden die sterk leken op experimentele resultaten. Deze omvatten zes verschillende microscopietechnieken, zoals transmissie -elektronenmicroscopie (TEM), atomaire krachtmicroscopie (AFM) en scanning transmissie -elektronenmicroscopie (stam), onder andere.

Om te testen hoe overtuigend deze afbeeldingen waren, voerde het team een ​​anoniem onderzoek uit onder meer dan 250 wetenschappers. Elke deelnemer kreeg de authentieke of de AI-gegenereerde versie van de afbeeldingen gepresenteerd en vroeg om te beslissen of het echt, nep was of dat ze niet zeker waren. Als het ging om het vertellen van Real van Fake, was hun expertise slechts de helft van de tijd nauwkeurig.

De onderzoekers merken op dat dit patroon een andere laag complicatie toevoegt aan een reeds verward publicatie -ecosysteem, dat de betrouwbaarheid van peer review en publiek vertrouwen in nanowetenschap ondermijnt.

Om dit probleem te overwinnen, moedigden ze het gebruik van een vereenvoudigde gegevensopslagstructuur aan, de minimale opstelling van instrumentbestanden (MAIF) -benadering, waarbij elk manuscript één hoofdmap zou hebben met submappen voor elke figuur, en elke submap zou de originele instrumentbestanden voor dat cijfer bevatten.

Het team erkent dat de capaciteiten van AI ontnuchterend zijn, omdat traditionele methoden voor het detecteren van vervalsingen falen terwijl AI blijft verbeteren. Het inlijsten van het echter alleen als een bedreiging voor de wetenschappelijke integriteit zou niet het einde van de weg moeten zijn.

In plaats van AI uitsluitend als een gevaar te zien, vragen de auteurs om transparante en vooruitstrevende dialoog in de nanomaterialengemeenschap.

Het erkennen van zowel de risico’s als de mogelijkheden kan de wetenschappelijke gemeenschap in staat stellen om duidelijke normen en waarborgen vast te stellen.