Note U+0FFFF regex support in perldelta
[p5sagit/p5-mst-13.2.git] / pod / perl5113delta.pod
1 =head1 NAME
2
3 perldelta - what is new for perl v5.11.3
4
5 =head1 DESCRIPTION
6
7 This document describes differences between the 5.11.2 release and
8 the 5.11.3 release.
9
10 If you are upgrading from an earlier release such as 5.11.1, first read
11 the L<perl5112delta>, which describes differences between 5.11.1 and
12 5.11.2
13
14 =head1 Incompatible Changes
15
16 =over
17
18 =item Filehandles are blessed directly into C<IO::Handle::>, as C<FileHandle> is merely a wrapper around C<IO::Handle>.
19
20 The previous behaviour was to bless Filehandles into L<FileHandle/>
21 (an empty proxy class) if it was loaded into memory and otherwise
22 to bless them into C<IO::Handle::>.
23
24
25 =back
26
27 =head1 Core Enhancements
28
29 =head2 Unicode version
30
31 Perl is shipped with the latest Unicode version, 5.2, October 2009.  See
32 L<http://www.unicode.org/versions/Unicode5.2.0> for details about this release
33 of Unicode.  See L<perlunicode> for instructions on installing and using
34 older versions of Unicode.
35
36 =head2 Unicode properties
37
38 Perl can now handle every Unicode character property.  A new pod,
39 L<perluniprops>, lists all available non-Unihan character properties.  By
40 default the Unihan properties and certain others (deprecated and Unicode
41 internal-only ones) are not exposed.  See below for more details on
42 these; there is also a section in the pod listing them, and why they are
43 not exposed.
44
45 Perl now fully supports the Unicode compound-style of using C<=> and C<:>
46 in writing regular expressions: C<\p{property=value}> and
47 C<\p{property:value}> (both of which mean the same thing).
48
49 Perl now fully supports the Unicode loose matching rules for text
50 between the braces in C<\p{...}> constructs.  In addition, Perl also allows
51 underscores between digits of numbers.
52
53 All the Unicode-defined synonyms for properties and property values are
54 now accepted.
55
56 C<qr/\X/>, which matches a Unicode logical character, has been expanded to work
57 better with various Asian languages.  It now is defined as an C<extended
58 grapheme cluster>.  (See L<http://www.unicode.org/reports/tr29/>).  One change
59 due to this is that C<\X> will match the whole sequence C<S<CR LF>>.  Another
60 change is that C<\X> will match an isolated mark.  Marks generally come after a
61 base character, but it is possible in Unicode to have them in isolation, and
62 C<\X> will now handle that case.  Otherwise, this change should be transparent
63 for non-affected languages.
64
65 C<\p{...}> matches using the Canonical_Combining_Class property were
66 completely broken in previous Perls.  This is now fixed.
67
68 In previous Perls, the Unicode Decomposition_Type=Compat property and a
69 Perl extension had the same name, which led to neither matching all the
70 correct values (with more than 100 mistakes in one, and several thousand
71 in the other).  The Perl extension has now been renamed to be
72 Decomposition_Type=Noncanonical (short: dt=noncanon).  It has the same
73 meaning as was previously intended, namely the union of all the
74 non-canonical Decomposition types, with Unicode Compat being just one of
75 those.
76
77 C<\p{Uppercase}> and C<\p{Lowercase}> have been brought into line with the
78 Unicode definitions.  This means they each match a few more characters
79 than previously.
80
81 C<\p{Cntrl}> now matches the same characters as C<\p{Control}>.  This means it
82 no longer will match Private Use (gc=co), Surrogates (gc=cs), nor Format
83 (gc=cf) code points.  The Format code points represent the biggest
84 possible problem.  All but 36 of them are either officially deprecated
85 or strongly discouraged from being used.  Of those 36, likely the most
86 widely used are the soft hyphen (U+00AD), and BOM, ZWSP, ZWNJ, WJ, and
87 similar, plus Bi-directional controls.
88
89 C<\p{Alpha}> now matches the same characters as C<\p{Alphabetic}>.  The Perl
90 definition included a number of things that aren't really alpha (all
91 marks), while omitting many that were.  The Unicode definition is
92 clearly better, so we are switching to it.  As a direct consequence, the
93 definitions of C<\p{Alnum}> and C<\p{Word}> which depend on Alpha also change.
94
95 C<\p{Word}> also now doesn't match certain characters it wasn't supposed
96 to, such as fractions.
97
98 C<\p{Print}> no longer matches the line control characters: tab, lf, cr,
99 ff, vt, and nel.  This brings it in line with the documentation.
100
101 C<\p{Decomposition_Type=Canonical}> now includes the Hangul syllables
102
103 The Numeric type property has been extended to include the Unihan
104 characters.
105
106 There is a new Perl extension, the 'Present_In', or simply 'In'
107 property.  This is an extension of the Unicode Age property, but
108 C<\p{In=5.0}> matches any code point whose usage has been determined as of
109 Unicode version 5.0.  The C<\p{Age=5.0}> only matches code points added in 5.0.
110
111 A number of properties did not have the correct values for unassigned
112 code points.  This is now fixed.  The affected properties are
113 Bidi_Class, East_Asian_Width, Joining_Type, Decomposition_Type,
114 Hangul_Syllable_Type, Numeric_Type, and Line_Break.
115
116 The Default_Ignorable_Code_Point, ID_Continue, and ID_Start properties
117 have been updated to their current definitions.
118
119 Certain properties that are supposed to be Unicode internal-only were
120 erroneously exposed by previous Perls.  Use of these in regular
121 expressions will now generate a deprecated warning message, if those
122 warnings are enabled.  The properties are: Other_Alphabetic,
123 Other_Default_Ignorable_Code_Point, Other_Grapheme_Extend,
124 Other_ID_Continue, Other_ID_Start, Other_Lowercase, Other_Math, and
125 Other_Uppercase.
126
127 An installation can now fairly easily change which Unicode properties
128 Perl understands.  As mentioned above, certain properties are by default
129 turned off.  These include all the Unihan properties (which should be
130 accessible via the CPAN module Unicode::Unihan) and any deprecated or
131 Unicode internal-only property that Perl has never exposed.
132
133 XXX what does "files in the To directory" mean? -- dagolden, 2009-12-20
134
135 The files in the To directory are now more clearly marked as being
136 stable, directly usable by applications.  New hash entries in them give
137 the format of the normal entries which allows for easier machine
138 parsing.  Perl can generate files in this directory for any property,
139 though most are suppressed.  An installation can choose to change which
140 get written.   Instructions are in L<perluniprops>.
141
142 =head2 Regular Expressions
143
144 U+0FFFF is now a legal character in regular expressions
145
146 =head1 Modules and Pragmata
147
148 =head2 Pragmata Changes
149
150 =over 4
151
152 =item C<constant>
153
154 Upgraded from version 1.19 to 1.20.
155
156 =item C<diagnostics>
157
158 This pragma no longer suppresses C<Use of uninitialized value in range (or flip)> warnings. [perl #71204]
159
160 =item C<feature>
161
162 Upgraded from 1.13 to 1.14.  Added the C<unicode_strings> feature:
163
164     use feature "unicode_strings";
165
166 This pragma turns on Unicode semantics for the case-changing operations
167 (uc/lc/ucfirst/lcfirst) on strings that don't have the internal UTF-8 flag set,
168 but that contain single-byte characters between 128 and 255.
169
170 =item C<legacy>
171
172 The experimental C<legacy> pragma, introduced in 5.11.2, has been removed,
173 and its functionality replaced by the new feature pragma, C<use feature
174 "unicode_strings">.
175
176 =item C<threads>
177
178 Upgraded from version 1.74 to 1.75.
179
180 =item C<warnings>
181
182 Upgraded from 1.07 to 1.08.  Added new C<warnings::fatal_enabled()> function.
183
184 =back
185
186 =head2 Updated Modules
187
188 =over 4
189
190 =item C<Archive::Extract>
191
192 Upgraded from version 0.34 to 0.36.
193
194 =item C<CPAN>
195
196 Upgraded from version 1.94_51 to 1.94_53.  Includes better bzip2 support,
197 improved FirstTime experience with auto-selection of CPAN mirrors, proper
198 handling of modules removed from the Perl core, and an updated 'cpan'
199 utility script
200
201 =item C<CPANPLUS>
202
203 Upgraded from version 0.89_09 to 0.90.
204
205 =item C<ExtUtils::MakeMaker>
206
207 Upgraded from version 6.55_02 to 6.56.  Adds new BUILD_REQUIRES key to
208 indicate build-only prerequisites.  Also adds support for
209 mingw64 and the new "package NAME VERSION" syntax.
210
211 =item C<File::Path>
212
213 Upgraded from version 2.08 to 2.08_01.
214
215 =item C<Module::Build>
216
217 Upgraded from version 0.35_09 to 0.36.  Compared to 0.35, this version has a
218 new 'installdeps' action, supports the PERL_MB_OPT environment variable, adds a
219 'share_dir' property for L<File::ShareDir> support, support the "package NAME
220 VERSION" syntax and has many other enhancements and bug fixes.  The
221 'passthrough' style of Module::Build::Compat has been deprecated.
222
223 =item C<Module::CoreList>
224
225 Upgraded from version 2.23 to 2.24.
226
227 =item C<POSIX>
228
229 Upgraded from version 1.18 to 1.19. Error codes for C<getaddrinfo()> and C<getnameinfo()> are now
230 available.
231
232 =item C<Pod::Simple>
233
234 Upgraded from version 3.10 to 3.13.
235
236 =item C<Safe>
237
238 Upgraded from version 2.19 to 2.20.
239
240 =back
241
242 =head1 Utility Changes
243
244 =over 4
245
246 =item F<perlbug>
247
248 No longer reports "Message sent" when it hasn't actually sent the message
249
250 =back
251
252 =head1 Changes to Existing Documentation
253
254 The Pod specification (L<perlpodspec>) has been updated to bring the
255 specification in line with modern usage already supported by most Pod systems.
256 A parameter string may now follow the format name in a "begin/end" region.
257 Links to URIs with a text description are now allowed.  The usage of
258 C<LE<lt>"section"E<gt>> has been marked as deprecated.
259
260 L<if.pm|if> has been documented in L<perlfunc/use> as a means to get
261 conditional loading of modules despite the implicit BEGIN block around C<use>.
262
263
264
265 =head1 Installation and Configuration Improvements
266
267 XXX Changes to F<Configure>, F<installperl>, F<installman>, and analogous tools
268 go here.
269
270 =head2 Configuration improvements
271
272 XXX
273
274 =head2 Compilation improvements
275
276     Make distclean work again
277 XXX
278
279 =head2 Testing improvements
280
281 =over 4
282
283 =item It's now possible to override C<PERL5OPT> and friends in F<t/TEST>
284
285 =back
286
287 =head2 Platform Specific Changes
288
289 =over 4
290
291 =item Win32
292
293 =over 4
294
295 =item *
296
297 Always add a manifest resource to C<perl.exe> to specify the <trustInfo>
298 settings for Windows Vista and later.  Without this setting Windows
299 will treat C<perl.exe> as a legacy application and apply various
300 heuristics like redirecting access to protected file system areas
301 (like the "Program Files" folder) to the users "VirtualStore"
302 instead of generating a proper "permission denied" error.
303
304 For VC8 and VC9 this manifest setting is automatically generated by
305 the compiler/linker (together with the binding information for their
306 respective runtime libraries); for all other compilers we need to
307 embed the manifest resource explicitly in the external resource file.
308
309 This change also requests the Microsoft Common-Controls version 6.0
310 (themed controls introduced in Windows XP) via the dependency list
311 in the assembly manifest.  For VC8 and VC9 this is specified using the
312 C</manifestdependency> linker commandline option instead.
313
314 =back
315
316 =item cygwin
317
318 =over 4
319
320 =item Enable IPv6 support on cygwin 1.7 and newer
321
322 =back
323
324 =item OpenVMS
325
326 =over 4
327
328 =item Make -UDEBUGGING the default on VMS for 5.12.0.
329
330 Like it has been everywhere else for ages and ages.  Also make
331 command-line selection of -UDEBUGGING and -DDEBUGGING work in
332 configure.com; before the only way to turn it off was by saying
333 no in answer to the interactive question.
334
335 =back
336
337 =back
338
339 =head1 Selected Bug Fixes
340
341 XXX Important bug fixes in the core language are summarised here.
342 Bug fixes in files in F<ext/> and F<lib/> are best summarised in
343 L</Modules and Pragmata>.
344
345 =over 4
346
347 =item *
348
349 Ensure that pp_qr returns a new regexp SV each time. Resolves RT #69852.
350
351 Instead of returning a(nother) reference to the (pre-compiled) regexp in the
352 optree, use reg_temp_copy() to create a copy of it, and return a reference to
353 that. This resolves issues about Regexp::DESTROY not being called in a timely
354 fashion (the original bug tracked by RT #69852), as well as bugs related to
355 blessing regexps, and of assigning to regexps, as described in correspondence
356 added to the ticket.
357
358 It transpires that we also need to undo the SvPVX() sharing when ithreads
359 cloning a Regexp SV, because mother_re is set to NULL, instead of a cloned
360 copy of the mother_re. This change might fix bugs with regexps and threads in
361 certain other situations, but as yet neither tests nor bug reports have
362 indicated any problems, so it might not actually be an edge case that it's
363 possible to reach.
364
365 =item  *
366
367 Several compilation errors and segfaults when perl was built with C<-Dmad> were fixed.
368
369 =item *
370
371 Fixes for lexer API changes in 5.11.2 which broke NYTProf's savesrc option.
372
373 =item *
374
375 F<-t> should only return TRUE for file handles connected to a TTY
376
377 The Microsoft C version of isatty() returns TRUE for all
378 character mode devices, including the /dev/null style "nul"
379 device and printers like "lpt1".
380
381 =item *
382
383 Fixed a regression caused by commit fafafbaf which caused a panic during parameter passing [perl #70171]
384
385
386 =item *
387
388 On systems which in-place edits without backup files, -i'*' now works as the documentation says it does [perl #70802]
389
390 =item *
391
392 Saving and restoring magic flags no longer loses readonly flag.
393
394 =item *
395
396 The malformed syntax C<grep EXPR LIST> (note the missing comma) no longer
397 causes abrupt and total failure.
398
399 =item *
400
401 Regular expressions compiled with C<qr{}> literals properly set C<$'> when
402 matching again.
403
404 =item *
405
406 Using named subroutines with C<sort> should no longer lead to bus errors [perl
407 #71076]
408
409 =item *
410
411 Numerous bugfixes catch small issues caused by the recently-added Lexer API.
412
413 =item *
414
415 Smart match against C<@_> sometimes gave false negatives negatives. [perl #71078]
416
417 =item *
418
419 C<$@> may now be assigned a read-only value (without error or busting the stack).
420
421 =item *
422
423 C<sort> called recursively from within an active comparison subroutine no longer causes a bus error if run multiple times. [perl #71076]
424
425 =back
426
427 =head1 New or Changed Diagnostics
428
429 =over 4
430
431 =item *
432
433 C<split> now warns when called in void context
434
435
436 =item *
437
438 C<printf>-style functions called with too few arguments will now issue the warning C<"Missing argument in %s"> [perl #71000] 
439
440
441 =back
442
443 =head1 New Tests
444
445 Many modules updated from CPAN incorporate new tests.
446
447 =over 4
448
449 =item t/comp/final_line_num.t
450
451 See if line numbers are correct at EOF
452
453 =item t/comp/form_scope.t
454
455 See if format scoping works
456
457 =item t/comp/line_debug.t
458
459 See if @{"_<$file"} works
460
461 =item t/op/filetest_t.t
462
463 See if -t file test works
464
465 =item t/op/qr.t
466
467 See if qr works
468
469 =item t/op/utf8cache.t
470
471 Tests malfunctions of utf8 cache
472
473 =item t/re/uniprops.t
474
475 Test unicode \p{} regex constructs
476
477 =back
478
479 =head1 Deprecations
480
481 The following items are now deprecated.
482
483 =over 4
484
485 =item Use of "goto" to jump into a construct is deprecated
486
487 Using C<goto> to jump from an outer scope into an inner
488 scope is now deprecated. This rare use case was causing
489 problems in the implementation of scopes.
490
491 =back
492
493 =head1 Acknowledgements
494
495 XXX The list of people to thank goes here.
496
497
498 =head1 Reporting Bugs
499
500 If you find what you think is a bug, you might check the articles
501 recently posted to the comp.lang.perl.misc newsgroup and the perl
502 bug database at http://rt.perl.org/perlbug/ .  There may also be
503 information at http://www.perl.org/ , the Perl Home Page.
504
505 If you believe you have an unreported bug, please run the B<perlbug>
506 program included with your release.  Be sure to trim your bug down
507 to a tiny but sufficient test case.  Your bug report, along with the
508 output of C<perl -V>, will be sent off to perlbug@perl.org to be
509 analysed by the Perl porting team.
510
511 If the bug you are reporting has security implications, which make it
512 inappropriate to send to a publicly archived mailing list, then please send
513 it to perl5-security-report@perl.org. This points to a closed subscription
514 unarchived mailing list, which includes all the core committers, who be able
515 to help assess the impact of issues, figure out a resolution, and help
516 co-ordinate the release of patches to mitigate or fix the problem across all
517 platforms on which Perl is supported. Please only use this address for
518 security issues in the Perl core, not for modules independently
519 distributed on CPAN.
520
521 =head1 SEE ALSO
522
523 The F<Changes> file for an explanation of how to view exhaustive details
524 on what changed.
525
526 The F<INSTALL> file for how to build Perl.
527
528 The F<README> file for general stuff.
529
530 The F<Artistic> and F<Copying> files for copyright information.
531
532 =cut
533
534